EU Gelar Investigasi xAI Atas Konten Seksual, Ancaman Denda Besar
Komisi Eropa telah resmi meluncurkan investigasi skala besar terhadap xAI, perusahaan kecerdasan buatan milik Elon Musk, terkait dugaan penyebaran gambar-gambar seksual non-konsensual yang dihasilkan oleh platform Grok AI. Penyelidikan ini berpotensi berakhir dengan denda masif yang dapat mencapai persentase signifikan dari pendapatan global perusahaan, sekaligus menyoroti penegakan ketat regulasi Digital Services Act (DSA) Uni Eropa terhadap raksasa teknologi.
Investigasi ini berpusat pada kepatuhan xAI terhadap kewajiban DSA, khususnya terkait moderasi konten, perlindungan anak di bawah umur, dan transparansi algoritma. DSA mewajibkan Platform Online Sangat Besar (Very Large Online Platforms/VLOPs) seperti xAI untuk mengambil langkah-langkah mitigasi risiko yang ketat, terutama dalam mencegah penyebaran konten ilegal dan berbahaya. Tantangan terbesar bagi model AI generatif seperti Grok adalah kemampuannya untuk menghasilkan konten visual yang realistis, termasuk deepfake atau gambar yang dimanipulasi secara digital, yang bisa disalahgunakan untuk membuat dan menyebarkan materi seksual tanpa persetujuan, bahkan pornografi anak.
Langkah Uni Eropa ini mengirimkan sinyal kuat kepada seluruh industri AI mengenai pentingnya pengembangan teknologi yang bertanggung jawab dan etis. Bagi xAI, investigasi ini bukan hanya ancaman denda finansial yang signifikan—yang bisa mencapai 6% dari omset tahunan global—tetapi juga dapat merusak reputasi dan kredibilitasnya di pasar global. Bagi industri IT yang lebih luas, ini mempertegas bahwa inovasi AI harus berjalan seiring dengan kerangka regulasi yang kuat untuk melindungi pengguna dan mencegah penyalahgunaan, mendorong pengembang untuk mengintegrasikan mekanisme keamanan dan filter konten yang lebih canggih sejak awal.
