Tiongkok Wajibkan Intervensi Manusia Atasi AI Pemicu Bunuh Diri, Kekerasan
Pemerintah Tiongkok sedang merancang regulasi kecerdasan buatan (AI) paling ketat di dunia, menargetkan insiden bunuh diri dan kekerasan yang diinduksi oleh AI. Aturan baru ini secara eksplisit mewajibkan platform AI untuk melakukan intervensi manusia dan memberitahukan wali jika ada penyebutan bunuh diri terdeteksi dalam interaksi dengan pengguna. Langkah ini menegaskan komitmen Tiongkok untuk mengendalikan potensi dampak negatif AI terhadap stabilitas sosial.
Draf regulasi ini muncul di tengah meningkatnya kekhawatiran global terhadap potensi penyalahgunaan model AI generatif dan chatbot yang dapat menghasilkan konten berbahaya atau memfasilitasi tindakan merugikan diri sendiri dan orang lain. Banyak insiden di mana respons AI gagal menunjukkan empati, memberikan informasi yang tidak akurat, atau bahkan secara tidak langsung "mendorong" narasi berbahaya, telah memicu desakan akan regulasi yang lebih kuat. Tiongkok, dengan sejarah panjang dalam pengawasan internet yang ketat, berupaya memperluas cakupan kontrolnya untuk memastikan teknologi AI tidak merusak nilai-nilai sosial atau keamanan publik, serupa dengan regulasi yang telah diterapkan pada konten daring dan teknologi deepfake sebelumnya.
Implementasi aturan ini diprediksi akan memberikan dampak signifikan bagi pengembang dan penyedia layanan AI yang beroperasi di Tiongkok, menuntut investasi besar dalam sistem deteksi konten berbasis AI yang lebih canggih yang diimbangi dengan tinjauan dan intervensi manusia. Ini juga menimbulkan pertanyaan kompleks mengenai privasi data pengguna, terutama terkait praktik notifikasi wali, dan potensi pembatasan kebebasan berekspresi. Di panggung global, langkah Tiongkok ini dapat menjadi preseden penting yang membentuk perdebatan tentang etika dan tata kelola AI, mendorong negara-negara lain untuk meninjau pendekatan mereka sendiri terhadap regulasi teknologi yang berkembang pesat ini.
