Tiongkok Draf Aturan AI, Wajib Intervensi Manusia Cegah Bunuh Diri
Pemerintah Tiongkok baru-baru ini menyusun draf regulasi kecerdasan buatan (AI) paling ketat di dunia, yang mewajibkan campur tangan manusia dan notifikasi kepada wali atau pihak keluarga jika sistem AI mendeteksi penyebutan terkait bunuh diri atau ujaran kekerasan. Kebijakan ini bertujuan untuk menghentikan potensi dorongan bunuh diri dan kekerasan yang mungkin difasilitasi oleh platform AI, menempatkan tanggung jawab hukum pada penyedia layanan.
Draf regulasi ini muncul di tengah meningkatnya kekhawatiran global mengenai dampak sosial dan psikologis AI, khususnya model bahasa besar (LLM) dan chatbot generatif yang kian canggih. Meskipun banyak pengembang AI global telah mengimplementasikan "guardrails" untuk mencegah AI menghasilkan konten berbahaya, efektivitasnya sering dipertanyakan dan batasan tersebut terkadang dapat dilewati. Tiongkok, dengan sejarah regulasi internet yang ketat, mengambil pendekatan yang lebih langsung dengan menuntut intervensi proaktif dan bukan sekadar pemblokiran konten, menandai langkah signifikan dalam pengawasan teknologi.
Implementasi regulasi semacam ini akan memiliki dampak signifikan terhadap industri teknologi dan pengguna di Tiongkok. Bagi perusahaan AI, ini berarti investasi besar dalam teknologi deteksi canggih yang mampu mengidentifikasi ujaran sensitif secara akurat, serta mekanisme respons cepat untuk intervensi manusia dan proses notifikasi yang terstandardisasi. Tantangan teknis mencakup membedakan antara ekspresi seni, diskusi akademik, dan niat bunuh diri atau kekerasan yang sebenarnya, serta menjaga privasi pengguna. Sementara itu, bagi pengguna, regulasi ini berpotensi menimbulkan kekhawatiran privasi mendalam, mengingat percakapan mereka dengan AI akan diawasi secara ketat, meskipun di sisi lain dapat menjadi alat pencegahan bunuh diri dan kekerasan yang krusial.
