Kantor X Digerebek Prancis dalam Investigasi Grok, Elon Musk Dipanggil
Otoritas Prancis baru-baru ini menggerebek kantor platform media sosial X di Paris sebagai bagian dari investigasi komprehensif terhadap Grok, chatbot AI milik X, yang juga melibatkan konten ilegal, termasuk gambar pornografi anak di bawah umur. Jaksa Penuntut Umum Paris mengonfirmasi bahwa penyelidikan tersebut tengah berlangsung, dan CEO X, Elon Musk, telah dipanggil untuk dimintai keterangan terkait kasus ini.
Penyelidikan ini menyoroti tantangan signifikan yang dihadapi platform digital dan pengembang AI generatif dalam memoderasi konten. Prancis, bersama Uni Eropa, menerapkan regulasi ketat seperti Digital Services Act (DSA) yang mewajibkan platform untuk bertanggung jawab atas konten ilegal yang beredar. Fokus pada Grok menunjukkan kekhawatiran terhadap potensi AI dalam menghasilkan atau menyebarkan materi terlarang, khususnya materi pelecehan seksual anak (CSAM), yang merupakan pelanggaran hukum berat dengan implikasi global. Ini juga bukan kali pertama X menghadapi sorotan terkait moderasi konten sejak akuisisi oleh Elon Musk, di mana banyak kebijakan moderasi telah dilonggarkan.
Kasus ini memiliki dampak luas bagi X dan industri teknologi secara keseluruhan. Bagi X, ini berpotensi memicu denda besar, pembatasan operasional di wilayah Eropa, dan kerugian reputasi yang signifikan. Di sisi industri, insiden ini semakin menekan perusahaan AI untuk mengintegrasikan "safety by design" yang lebih kuat dalam model mereka, memastikan bahwa teknologi canggih tidak disalahgunakan untuk tujuan ilegal. Hal ini juga menegaskan kembali komitmen regulator Eropa dalam menegakkan standar keamanan online yang tinggi, khususnya dalam melindungi kelompok rentan, dan mendorong platform untuk lebih proaktif dalam memberantas konten terlarang.
