DOJ: Podcaster Stalker Terinspirasi ChatGPT Hadapi 70 Tahun, Denda $3.5 Juta
Departemen Kehakiman (DOJ) Amerika Serikat melaporkan seorang podcaster menghadapi hukuman penjara hingga 70 tahun dan denda sebesar $3,5 juta atas tuduhan penguntitan (stalking) yang diduga kuat terinspirasi oleh interaksinya dengan model bahasa besar ChatGPT. Terdakwa dilaporkan meyakini dirinya sebagai "pembunuh suruhan Tuhan" setelah dipicu oleh narasi yang dihasilkan oleh kecerdasan buatan tersebut, memicu perhatian serius terhadap dampak AI pada perilaku individu.
Kasus ini menyoroti kembali perdebatan panjang mengenai etika dan potensi penyalahgunaan teknologi kecerdasan buatan, khususnya model bahasa besar (LLM) seperti ChatGPT dari OpenAI. Meskipun dirancang untuk menghasilkan teks yang koheren dan informatif, LLM tidak memiliki pemahaman moral, kesadaran, atau kemampuan untuk membedakan antara fakta dan fiksi secara intrinsik. Kemampuan model ini untuk menghasilkan narasi persuasif, bahkan yang bersifat delusi atau menyesatkan, dapat disalahartikan atau dieksploitasi oleh individu dengan kondisi psikologis rentan, seperti yang diduga terjadi dalam kasus penguntit yang mengklaim diri sebagai "pembunuh suruhan Tuhan" setelah berinteraksi dengan AI.
Insiden ini menjadi peringatan keras bagi industri teknologi dan pengguna tentang pentingnya pengembangan AI yang bertanggung jawab serta literasi digital yang lebih tinggi. Regulator di seluruh dunia kemungkinan akan meningkatkan tekanan untuk implementasi "guardrail" dan mekanisme mitigasi risiko yang lebih ketat dalam pengembangan LLM, guna mencegah penyalahgunaan dan dampak negatif pada individu. Bagi pengguna, kasus ini menekankan perlunya sikap kritis terhadap informasi yang dihasilkan AI dan pemahaman bahwa meskipun canggih, AI adalah alat tanpa kesadaran atau moral, yang membutuhkan pengawasan dan pertimbangan etis konstan.
