“Senjata otonom yang mematikan mengancam akan menjadi revolusi ketiga dalam peperangan. Setelah dikembangkan, senjata ini akan memungkinkan terjadinya konflik bersenjata dalam skala yang lebih besar dari sebelumnya, dan dalam jangka waktu yang lebih cepat dari yang dapat dipahami manusia.”
Itu bukan kutipan dari CEO Anthropic Dario Amodei menolak menyetujui permintaan Departemen Perang AS bahwa mereka mengizinkan model AI Claude untuk pengawasan massal dan mungkin yang lebih bermasalah adalah “senjata yang sepenuhnya otonom”. Sebaliknya, itu berasal dari a Surat Terbuka 2017 untuk PBByang ditandatangani bersama oleh, di antara puluhan pemimpin AI dan robotika lainnya, Elon Musk, yang meminta organisasi global tersebut untuk melarang senjata otonom.
Bersenjata dan berbahaya
Ini bukanlah konsep baru. Banyak orang di industri teknologi telah memikirkan masalah ini selama hampir satu dekade (jika tidak lebih lama lagi). Musk dan komunitas AI dan robotika memberikan peringatan pada tahun 2017 karena kita telah melihat sistem robot yang didukung AI digunakan dengan cara yang meragukan.
Pada tahun 2016, robot penjinak bom digunakan untuk membunuh tersangka penembakan massal di Texas. PD Dallas memasang alat peledak pada robot tersebut lenganmengarahkannya ke tempat tersangka bersembunyi, lalu mereka meledakkan alat peledak dan membunuh tersangka.
Pada saat itu, beberapa orang melihatnya sebagai titik perubahan, dan merupakan hal yang memprihatinkan. Peristiwa seperti itu mungkin atau mungkin juga tidak menjadi pemicu surat yang ditujukan kepada PBB pada tahun 2017 itu.
Sekali kotak Pandora ini dibuka, akan sulit untuk ditutup.
Perusahaan AI dan Robotika pada tahun 2017
Perlu diingat bahwa hal ini terjadi sebelum revolusi AI generatif dan agenik saat ini.
Amodei mengetahui lebih baik daripada kebanyakan lompatan besar yang dilakukan model dasar setiap beberapa bulan dan, seperti yang dijelaskannya dalam suratnya, aturan dan strategi kami untuk mengelola AI dalam situasi seperti ini sudah ketinggalan dari kemampuannya.
“Pengawasan massal yang digerakkan oleh AI menimbulkan risiko baru yang serius terhadap kebebasan fundamental kita. Sejauh pengawasan tersebut saat ini legal, hal ini hanya terjadi karena undang-undang tersebut belum dapat mengimbangi kemampuan AI yang berkembang pesat,” tulisnya.
Intinya, dengan AI, kita tidak mengetahui apa yang tidak kita ketahui. Kesediaan Hegseth untuk secara sembrono menggunakan model AI yang kuat dalam pengawasan dan peperangan menunjukkan bahwa dia tidak memiliki pengetahuan atau minat terhadap masa lalu dan bahkan kurang memahami seluk-beluk sistem ini.
Ide yang sangat buruk
Saya belum pernah berbicara dengan ahli teknologi, ahli robotik, atau seseorang dalam komunitas AI yang berpendapat bahwa membiarkan AI (atau robot bertenaga AI) mengendalikan atau membawa senjata adalah ide yang bagus.
Hegseth belum tentu menjelaskan skenario tersebut, namun permintaannya untuk menghilangkan pagar pembatas yang telah diterapkan dengan cerdas oleh Anthropic menunjukkan kepada saya bahwa dia tidak terlalu peduli dengan dampak dan korban AI. Dia fokus pada hasil, mungkin dengan segala cara, termasuk keselamatan dan kebebasan.
Amodei telah melakukan hal yang benar di sini, pada dasarnya menyebut gertakan Hegseth. Seperti yang dijelaskan oleh CEO Anthropic, Claude AI sudah digunakan di banyak sistem Departemen Perang. Menariknya keluar dan retrofit untuk model lain, yang mungkin kurang kuat dan cerdas mungkin tidak mudah dan mungkin tidak akan memberikan hasil yang diinginkan dari sistem yang siap melaksanakan perintah Hegseth.
Pikiran yang lebih jernih harus menang di sini. Seperti yang ditulis oleh para pemimpin teknologi dan, bahkan Elon Musk, pada tahun 2017, “Setelah kotak Pandora ini dibuka, akan sulit untuk menutupnya.”
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja, Anda juga dapat mengikuti TechRadar YouTube Dan TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
