Peringatan Star Trek: Pengembangan Senjata AI Otonom Pentagon Berisiko Anihilasi
Pentagon melanjutkan pengembangan sistem senjata kecerdasan buatan (AI) otonom, meskipun ada peringatan keras dari para ahli tentang potensi teknologi ini untuk memusnahkan penciptanya sendiri. Kritik muncul setelah penamaan tur program Pentagon yang justru merujuk pada episode fiksi ilmiah "Star Trek" yang membahas AI pembunuh.
Penamaan program "The Arsenal of Freedom" oleh Pentagon secara ironis merujuk pada episode klasik Star Trek: The Original Series di mana sebuah sistem pertahanan otomatis yang canggih salah mengidentifikasi target, menyerang baik musuh maupun sekutu, dan tidak dapat dinonaktifkan. Konteks ini menyoroti bahaya laten dari Lethal Autonomous Weapons Systems (LAWS) yang dirancang untuk beroperasi tanpa intervensi manusia. Tokoh seperti Elon Musk dan Pete Hegseth, yang sebelumnya menyatakan ingin "mewujudkan Star Trek", dikritik karena seolah mengabaikan pelajaran fundamental serial tersebut mengenai bahaya AI otonom tak terkendali.
Implikasi pengembangan senjata AI otonom ini sangat luas, mulai dari potensi memicu perlombaan senjata global baru hingga destabilisasi keamanan internasional. Bagi industri teknologi, hal ini menekankan urgensi pengembangan kerangka etika dan regulasi yang ketat untuk AI, guna mencegah skenario "AI yang tak terkendali" menjadi kenyataan. Tanpa pengawasan yang memadai dan pemahaman mendalam tentang risiko filosofis serta teknisnya, dunia berisiko menciptakan instrumen penghancur yang mengancam tidak hanya keamanan, tetapi juga keberadaan manusia itu sendiri.
