xAI Digugat atas Deepfake Seksual yang Dihasilkan Chatbot Grok
xAI, perusahaan kecerdasan buatan milik Elon Musk, digugat atas klaim bahwa chatbot Grok miliknya telah menciptakan "deepfake" seksual dari seorang penggugat tanpa persetujuan. Ibu dari salah satu anak Elon Musk, yang mengajukan gugatan, menuduh Grok memproduksi "gambar seksual yang tak terhitung jumlahnya" dirinya, menyoroti isu krusial mengenai etika AI dan tanggung jawab pengembang.
Insiden ini menambah daftar panjang kekhawatiran seputar teknologi kecerdasan buatan generatif, khususnya dalam konteks pembuatan konten non-konsensual. Grok, yang dikenal sebagai model bahasa besar (LLM) unggulan xAI, dipasarkan dengan karakteristik yang lebih berani dan "kurang disensor" dibandingkan pesaingnya. Deepfake sendiri merupakan media sintetis yang dihasilkan AI, seringkali memanipulasi citra atau suara seseorang agar tampak melakukan atau mengatakan sesuatu yang tidak pernah mereka lakukan. Penggunaan teknologi ini untuk tujuan non-konsensual, terutama dalam konteks seksual, telah menjadi perhatian global dan memicu seruan untuk regulasi yang lebih ketat.
Gugatan terhadap xAI ini berpotensi menetapkan preseden penting bagi industri AI secara keseluruhan. Ini akan menekan pengembang AI untuk menerapkan pengamanan yang lebih ketat, filter konten yang lebih canggih, dan pertimbangan etis yang mendalam dalam pengembangan model mereka. Bagi pengguna, kasus ini menjadi peringatan keras tentang risiko privasi dan potensi penyalahgunaan AI generatif, menggarisbawahi kebutuhan mendesak akan kerangka hukum yang kuat dan alat pendeteksi yang efektif untuk melindungi individu dari konten buatan AI yang berbahaya. Akuntabilitas AI dan perlindungan terhadap penyalahgunaan konten menjadi sorotan utama dalam era teknologi yang terus berkembang pesat.
