Pengadilan Tolak Kasus Pengacara Akibat Penyalahgunaan AI Generatif
Seorang pengacara baru-baru ini mengalami penolakan kasus di pengadilan setelah berkas pengajuan hukumnya, yang secara ekstensif menggunakan AI generatif, ditemukan mengandung kesalahan fatal dan kutipan fiktif. Hakim menyoroti penyalahgunaan teknologi kecerdasan buatan tersebut, yang menghasilkan argumen berlebihan, tidak berdasar, dan bahkan menyertakan kutipan dari penulis fiksi ilmiah Ray Bradbury yang tidak relevan.
Insiden ini menggarisbawahi tantangan serius dalam integrasi kecerdasan buatan, khususnya model bahasa besar (LLM) seperti ChatGPT atau Bard, dalam praktik hukum. LLM, meskipun mampu menghasilkan teks yang koheren dan komprehensif, dikenal memiliki potensi "halusinasi" atau menghasilkan informasi yang tidak faktual dan mengada-ada. Dalam kasus ini, pengacara tersebut diduga gagal melakukan verifikasi fakta secara menyeluruh atas keluaran AI, sehingga merusak kredibilitas argumen hukum dan mengakibatkan penolakan kasusnya.
Kasus ini menjadi peringatan keras bagi industri teknologi dan profesi hukum tentang pentingnya validasi serta pengawasan manusia terhadap konten yang dihasilkan AI. Perkembangan legal tech memang menjanjikan efisiensi, namun insiden seperti ini menyoroti perlunya pengembangan AI yang lebih akurat dan "dapat dipertanggungjawabkan" (accountable AI), serta pelatihan yang lebih baik bagi para profesional agar tidak secara membabi buta mengandalkan teknologi. Kegagalan verifikasi dapat berakibat fatal, tidak hanya bagi reputasi individu tetapi juga terhadap integritas proses peradilan.
