Remaja Divonis Pembuatan AI Nudifikasi, Keluarga Korban Gugat Sekolah
Pada hari Rabu ini, sejumlah remaja akan menghadapi vonis setelah mengakui perbuatan mereka membuat konten pelecehan seksual anak (CSAM) berbasis kecerdasan buatan (AI) yang menelanjangi gambar gadis-gadis. Kasus ini semakin memanas dengan rencana orang tua korban untuk mengajukan gugatan terhadap pihak sekolah atas insiden tersebut.
Kasus ini menyoroti peningkatan penggunaan teknologi AI generatif, khususnya model difusi canggih seperti Stable Diffusion atau varian serupa, untuk menciptakan konten visual non-konsensual. Para pelaku memanfaatkan kemampuan AI untuk secara realistis menghilangkan pakaian dari foto-foto individu, seringkali tanpa persetujuan subjek. Kemudahan akses terhadap perangkat lunak dan tutorial daring telah menurunkan hambatan teknis bagi siapa pun yang berniat melakukan tindakan serupa, memicu gelombang kekhawatiran serius tentang privasi digital dan potensi pelecehan siber, terutama yang menargetkan anak di bawah umur.
Insiden ini memicu seruan mendesak bagi industri teknologi untuk memperkuat pengawasan dan implementasi 'guardrails' etis dalam pengembangan AI generatif. Perusahaan pengembang didesak untuk berinvestasi lebih banyak dalam deteksi konten berbahaya dan memblokir penyalahgunaan. Bagi pengguna dan orang tua, kasus ini menjadi pengingat kritis akan pentingnya literasi digital dan pengawasan aktif terhadap aktivitas daring anak. Secara hukum, insiden semacam ini menekan pembuat kebijakan untuk merancang undang-undang yang lebih adaptif terhadap kejahatan siber berbasis AI, sekaligus menyoroti tanggung jawab sekolah dalam menciptakan lingkungan digital yang aman serta memberikan edukasi pencegahan yang komprehensif bagi siswanya.
