Tiongkok Siapkan Regulasi AI Ketat Cegah Bunuh Diri dan Kekerasan
Pemerintah Tiongkok baru-baru ini menyusun draf regulasi kecerdasan buatan (AI) terketat di dunia, secara khusus menargetkan pencegahan bunuh diri dan kekerasan yang didorong oleh platform AI. Draf aturan ini mewajibkan adanya intervensi manusia dan notifikasi kepada wali atau pihak berwenang jika sistem AI mendeteksi konten atau percakapan yang mengindikasikan niat bunuh diri atau potensi kekerasan.
Langkah Tiongkok ini muncul di tengah meningkatnya kekhawatiran global mengenai potensi penyalahgunaan teknologi AI, terutama model bahasa besar (LLM) dan chatbot generatif, yang dapat memengaruhi kesehatan mental pengguna. Meskipun AI menawarkan banyak manfaat, ada risiko serius bahwa percakapan dengan AI bisa tanpa sengaja, atau bahkan sengaja, memicu atau memperburuk pikiran berbahaya. Regulasi ini berupaya mengatasi celah etika dan keamanan tersebut dengan menuntut pengembang AI untuk mengintegrasikan mekanisme deteksi canggih dan protokol respons krisis yang melibatkan manusia, menekankan pentingnya akuntabilitas dalam desain dan implementasi AI. Ini juga menyoroti kompleksitas dalam membedakan antara diskusi akademis dan sinyal bahaya, serta tantangan dalam melakukan intervensi yang tepat waktu dan efektif.
Dampak regulasi ini diperkirakan akan signifikan bagi industri teknologi global, terutama bagi perusahaan AI yang beroperasi atau ingin berekspansi di Tiongkok. Mereka harus menginvestasikan sumber daya yang besar untuk mengembangkan sistem AI yang sesuai, termasuk melatih model untuk mengenali nuansa bahasa yang sensitif dan membangun tim intervensi manusia. Hal ini bisa menjadi preseden bagi negara lain untuk menerapkan standar keamanan AI serupa, mendorong inovasi dalam etika AI dan desain yang berpusat pada manusia, sekaligus berpotensi meningkatkan biaya operasional. Bagi pengguna, langkah ini menawarkan lapisan perlindungan tambahan, terutama bagi individu rentan, meskipun juga memunculkan diskusi tentang batas privasi dan pengawasan dalam interaksi digital.
