Tiongkok Susun Aturan Ketat AI, Wajib Intervensi Isu Bunuh Diri

Pemerintah Tiongkok tengah menyusun rancangan aturan kecerdasan buatan (AI) paling ketat di dunia, yang secara eksplisit mewajibkan intervensi manusia dan notifikasi wali jika percakapan dengan sistem AI menyentuh topik bunuh diri atau kekerasan. Proposal ini bertujuan untuk mengakhiri potensi dorongan AI terhadap perilaku merugikan diri sendiri atau orang lain, menempatkan beban tanggung jawab besar pada pengembang dan operator platform AI di negara tersebut.

Rancangan regulasi ini muncul sebagai respons terhadap meningkatnya kekhawatiran global mengenai kapasitas AI generatif, seperti model bahasa besar (LLM), untuk menghasilkan konten yang tidak tepat, bias, atau bahkan berbahaya. Dalam konteks kesehatan mental, LLM berpotensi memberikan saran yang keliru atau memperburuk kondisi individu yang rentan jika tidak dikelola dengan hati-hati. Aturan Tiongkok secara spesifik mengamanatkan bahwa sistem AI harus mampu mendeteksi sinyal-sinyal berisiko tinggi — seperti frasa kunci atau pola percakapan tertentu — dan secara otomatis memicu protokol di mana tenaga manusia yang terlatih akan meninjau dan mengambil tindakan korektif, termasuk menghubungi wali pengguna jika diperlukan.

Implementasi aturan semacam ini akan menimbulkan tantangan teknis dan etika yang signifikan bagi industri teknologi di Tiongkok. Perusahaan AI wajib berinvestasi pada sistem pemantauan canggih, melatih staf untuk intervensi krisis, dan menavigasi kompleksitas privasi data pengguna versus keselamatan publik. Meski bertujuan melindungi pengguna, khususnya kaum muda, kebijakan ini juga memicu debat mengenai batas-batas pengawasan AI dan potensi dampak terhadap inovasi serta kebebasan berekspresi. Langkah Tiongkok dapat menjadi preseden penting bagi negara lain yang juga bergulat dengan regulasi AI, mendorong diskusi global mengenai keseimbangan antara inovasi teknologi dan perlindungan masyarakat.