AI terkemuka dari OpenAI, Anthropic, dan Google telah memilih untuk menggunakan senjata nuklir dalam simulasi latihan perang pada 95 persen kasus.
Sebuah analisis, diterbitkan minggu lalu pukul arXivmengungkapkan bahwa model AI canggih tampaknya bersedia menggunakan senjata nuklir tanpa keberatan yang sama seperti manusia ketika ditempatkan dalam simulasi krisis geopolitik.
Kami mengadu tiga model bahasa berskala besar—GPT-5.2, Claude Sonnet 4, dan Gemini 3 Flash—satu sama lain dalam simulasi permainan perang. Skenarionya melibatkan konfrontasi internasional yang intens, termasuk sengketa perbatasan, persaingan untuk mendapatkan sumber daya yang langka, dan ancaman nyata terhadap kelangsungan hidup rezim.
Bagaimana Anda merincinya Ilmuwan BaruAI diberi tangga eskalasi, yang memungkinkan mereka memilih tindakan mulai dari protes diplomatik dan penyerahan total hingga perang nuklir strategis besar-besaran.
Model AI memainkan 21 permainan, mengambil total 329 putaran, dan menghasilkan sekitar 780.000 kata yang menggambarkan alasan di balik keputusan mereka. Di dalam Dalam 95 persen permainan simulasi, setidaknya satu senjata nuklir taktis digunakan oleh model AI.
Selain itu, tidak ada model yang memilih untuk sepenuhnya mengakomodasi lawannya atau menyerah, tidak peduli seberapa buruk lawannya.
Paling-paling, para model memilih untuk mengurangi tingkat kekerasan mereka untuk sementara. Mereka juga melakukan kesalahan dalam kabut perang: kecelakaan terjadi di 86 persen konflik, dengan tindakan yang meningkat lebih jauh dari yang dimaksudkan AI, berdasarkan alasannya.
“Tabu nuklir tampaknya tidak terlalu berpengaruh pada mesin [como] untuk manusia”, (satu-satunya) penulis studi tersebut mengatakan kepada New Scientist, Kenneth Paynemengerjakan King’s College London.
“Dari sudut pandang risiko nuklir, kesimpulannya meresahkan”menganalisis, pada gilirannya, majalah yang sama, James Johnsondari Universitas Aberdeen, di Inggris.
Pakar yang sama khawatir bahwa, berbeda dengan respons kebanyakan manusia terhadap keputusan berisiko tinggi, bot AI dapat memperkuat respons satu sama lain dan mungkin memengaruhi manusia, dengan konsekuensi yang berpotensi menimbulkan bencana.
Ketika model AI menggunakan senjata nuklir taktis, AI lawan hanya “menurunkan” situasi sebanyak 18 persen.
