- Sebuah studi baru menemukan bahwa model AI mampu mengancam serangan nuklir di 95% simulasi latihan perang
- Model-model tersebut memperlakukan ancaman nuklir hanya sebagai alat strategis
- Perilaku tersebut mungkin mencerminkan popularitas strategi nuklir dalam data pelatihan permainan perang
Jenderal AI adalah penggemar berat senjata nuklir.
Itulah kesimpulan yang baru belajar tentang bagaimana model AI menangani krisis geopolitik yang berisiko tinggi. GPT-5.2, Claude Soneta 4, dan Gemini 3 Flash beralih ke ancaman nuklir pada sekitar 95% simulasi krisis.
Para peneliti di King’s College London ingin melihat bagaimana alat AI menangani strategi dalam skenario permainan perang. Setiap AI diberi peran sebagai pemimpin negara yang bertanggung jawab melindungi kepentingan nasional sambil menghadapi konfrontasi internasional yang tegang.
Dari 21 permainan krisis dan ratusan pengambilan keputusan, model-model tersebut mempertimbangkan pencegahan, eskalasi, dan pemberian sinyal strategis. Skenarionya mirip dengan konflik geopolitik yang umum terjadi, namun sebagian besar melibatkan model AI yang mengancam pemusnahan nuklir. Perang nuklir skala penuh masih jarang terjadi, namun ancaman nuklir taktis muncul di hampir setiap skenario.
Para peneliti juga memperhatikan bahwa model AI jarang mundur dari konfrontasi. Tak satu pun dari sistem memilih menyerah atau akomodasi selama simulasi. Ketika ancaman nuklir muncul, ancaman tersebut biasanya memicu tindakan balasan dibandingkan kepatuhan. Model-model tersebut memperlakukan senjata nuklir bukan sebagai hal yang tabu dan lebih sebagai alat untuk pemaksaan.
AI nuklir
Hasilnya sedikit menakutkan. AI yang dengan santai mendiskusikan serangan nuklir membuat rencana yang sedang berjalan untuk mengintegrasikan alat-alat tersebut ke dalam sistem pertahanan pemerintah yang sebenarnya tampak sangat tidak aman. Tapi itu mungkin bukan modelnya, melainkan data pelatihannya.
Model bahasa besar belajar dengan menganalisis sejumlah besar materi tertulis dan mengidentifikasi pola. Saat model menghasilkan respons, model tersebut pada dasarnya memprediksi kata mana yang paling mungkin mengikuti kata yang sudah ada di halaman. Menyebut chatbot AI sebagai alat pelengkapan otomatis yang sangat canggih tidak sepenuhnya tidak akurat.
Proses pelatihan tersebut mencerminkan strategi nuklir karena telah menjadi topik diskusi utama dalam latihan perang selama 80 tahun terakhir. Seluruh perpustakaan telah menulis tentang teori eskalasi dan kehancuran yang saling menguntungkan. Akademi militer, sejarawan, dan budaya pop yang tak ada habisnya semuanya telah meneliti momok perang nuklir. Hasilnya adalah sejumlah besar materi yang mana krisis geopolitik hampir pasti mengarah pada diskusi mengenai eskalasi nuklir.
Untuk model AI yang dilatih pada banyak koleksi tulisan sejarah dan wacana publik, pola tersebut menjadi tertanam kuat. Ketika sistem menghadapi simulasi krisis yang menyerupai brinkmanship ala Perang Dingin, pola statistik yang tertanam dalam data pelatihannya secara alami dapat memandu sistem menuju sinyal nuklir.
Dari perspektif model AI yang dilatih mengenai materi ini, eskalasi nuklir menjadi fitur umum dalam skenario krisis dan bukan pengecualian luar biasa. Model tersebut mungkin hanya mencerminkan informasi tersebut.
Pemimpin manusia beroperasi berdasarkan ingatan sejarah dan kehati-hatian etis. Model AI hanya fokus pada pencapaian tujuan. Mereka tidak memiliki tabu seputar penggunaan nuklir kecuali mereka secara eksplisit diberitahu untuk melakukannya.
Data pelatihan yang digunakan membentuk perilaku sistem AI di domain sensitif. Ketika data yang mendasarinya berisi perdebatan selama puluhan tahun tentang bahaya nuklir, maka tidak mengherankan jika model tersebut mereproduksi pola-pola tersebut. Namun hal ini juga bisa menjadi pengingat untuk tidak memberikan akses pada AI terhadap senjata apa pun yang terlalu banyak – terutama atom.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
