X Gagal Cegah Konten CSAM Meski Batasi Akses Grok Berbayar
X (sebelumnya Twitter) dinilai gagal dalam upaya terbarunya mengatasi penyebaran materi pelecehan seksual anak (CSAM) di platformnya, meskipun telah membatasi akses chatbot AI Grok di balik langganan berbayar. Solusi yang diimplementasikan X ini terbukti tidak efektif mencegah penggunaan alat pengeditan gambar gratis yang masih dapat digunakan untuk menghasilkan atau memodifikasi konten berbahaya tersebut, terutama setelah ancaman pelarangan operasional di Inggris.
Langkah X ini muncul sebagai respons langsung terhadap tekanan regulasi, khususnya dari Inggris Raya, yang mengancam pelarangan platform jika tidak serius menangani CSAM. Inggris memiliki Undang-Undang Keamanan Online (Online Safety Act) yang ketat, menuntut platform digital untuk melindungi pengguna dari konten ilegal dan berbahaya. Grok sendiri adalah chatbot kecerdasan buatan dari xAI, perusahaan milik Elon Musk, yang terintegrasi di platform X dan hanya dapat diakses oleh pelanggan Premium. Namun, masalah utama terletak pada kenyataan bahwa solusi paywall Grok tidak mengatasi ketersediaan luas alat pengeditan gambar generatif, banyak di antaranya bertenaga AI dan tersedia secara gratis di luar ekosistem X, yang bisa disalahgunakan untuk tujuan tersebut.
Kegagalan X dalam mengatasi masalah mendasar ini menyoroti tantangan besar yang dihadapi platform teknologi dalam menanggulangi konten ilegal yang dihasilkan oleh AI dan ketersediaan alat digital. Hal ini kemungkinan akan memperpanjang pengawasan regulasi terhadap X, tidak hanya di Inggris tetapi juga di yurisdiksi lain seperti Uni Eropa dengan Digital Services Act (DSA) dan Amerika Serikat. Dampaknya, insiden ini menegaskan bahwa pendekatan tambal sulam atau berorientasi monetisasi mungkin tidak cukup untuk memenuhi tanggung jawab sosial dan etika platform, mendorong perdebatan tentang batasan AI generatif dan perlunya kolaborasi industri yang lebih komprehensif untuk memerangi penyalahgunaan teknologi demi keamanan pengguna.
