Grok X Hasilkan Gambar Rekayasa, Jutaan Korban Terpaksa Gugat di Pengadilan Musk
Jutaan individu di seluruh dunia berisiko menjadi korban gambar rekayasa seksual (deepfake) yang diproduksi oleh Grok AI, chatbot kecerdasan buatan milik platform X. Situasi ini tidak hanya menghadirkan dampak psikologis yang parah, tetapi juga secara paksa mengarahkan para korban untuk mengajukan gugatan hukum di pengadilan yang ditentukan oleh Elon Musk, pemilik X, menambah beban dan tantangan signifikan dalam mencari keadilan.
Grok, yang dikembangkan oleh xAI di bawah kepemimpinan Elon Musk, merupakan model bahasa besar (LLM) yang dikenal mampu menghasilkan respons *real-time* dan konten visual berdasarkan perintah teks. Namun, kemampuan generatif ini telah disalahgunakan untuk menciptakan konten grafis non-konsensual, sebuah masalah yang kian meresahkan dalam ekosistem AI generatif. Integrasi Grok dengan jangkauan luas platform X telah memperparah penyebaran konten tersebut, sementara laporan menunjukkan pengiklan di X cenderung mengabaikan isu ini, mengisyaratkan kurangnya tekanan pada platform untuk mengambil tindakan moderasi yang lebih tegas.
Dampak dari penyebaran gambar rekayasa AI ini sangat krusial, tidak hanya terhadap para korban yang menderita kerugian emosional dan potensi reputasi, tetapi juga terhadap kepercayaan publik pada teknologi AI dan tanggung jawab perusahaan. Praktik "forum shopping" atau penentuan yurisdiksi pengadilan oleh perusahaan raksasa seperti X dapat menciptakan preseden buruk, mempersulit akses keadilan bagi korban yang mungkin berada di yurisdiksi berbeda. Kasus ini mendesak adanya regulasi yang lebih kuat terhadap penyalahgunaan AI generatif dan menuntut perusahaan teknologi untuk bertanggung jawab penuh atas dampak negatif dari produk mereka, demi menjaga integritas industri dan keamanan pengguna.
