AI telah jatuh ke tangan yang salah dan mereka menggunakannya untuk membuat bom
Kecerdasan buatan dengan cepat menjadi alat yang berguna untuk segala hal mulai dari menulis email dan merangkum rapat hingga membantu siswa belajar atau mengembangkan kode debug. Namun teknologi yang menghemat waktu juga dapat disalahgunakan, dan sebuah laporan baru menunjukkan bahwa organisasi teroris sedang mencari cara untuk melakukan hal tersebut. Menurut makalah penelitian yang dibagikan kepada The New York Times sebelum dipublikasikan, para peneliti menemukan bukti bahwa anggota Boko Haram telah menggunakan chatbot AI yang populer untuk mendukung aktivitas sehari-hari dan tugas terkait pertempuran. Wawancara dengan 27 mantan anggota yang dilakukan di Nigeria selama dua tahun terakhir menunjukkan bahwa alat seperti ChatGPT, Gemini, Claude, Grok, Meta AI, dan DeepSeek digunakan untuk mengumpulkan informasi teknis, memecahkan masalah senjata, dan bahkan membantu merencanakan serangan. Yang membuat temuan ini sangat memprihatinkan adalah bahwa hal ini tidak digambarkan sebagai hasil kerja beberapa individu yang bereksperimen dengan AI. Laporan tersebut mengklaim bahwa penggunaan AI oleh kelompok tersebut telah terorganisir, dengan tim yang berdedikasi, pelatihan internal, dan pengetahuan yang dibagikan antar anggota. Para peneliti juga mengatakan beberapa pengguna berhasil melewati perlindungan keamanan bawaan yang dirancang untuk mencegah AI merespons permintaan terkait kekerasan. Percakapan Chatbot Layanan pelanggan online teknologi Kecerdasan Buatan Ai. Chatbot digital, aplikasi robot, OpenAI menghasilkan. Teknologi futuristik. Asisten virtual di internet. Chatbot AI Itu tidak berarti chatbot AI saat ini membagikan instruksi berbahaya sesuai permintaan. Sebagian besar penelitian berfokus pada aktivitas hingga akhir tahun 2024, dan perusahaan AI mengatakan bahwa versi terbaru dari model mereka mencakup perlindungan yang lebih kuat. Mereka juga menunjukkan bahwa banyak permintaan yang masuk ke wilayah abu-abu. Misalnya, menanyakan AI cara memperbaiki sepeda motor atau memahami kimia dasar tidaklah berbahaya, meskipun informasi serupa dapat disalahgunakan. Tantangannya sekarang adalah untuk tetap selangkah lebih maju. OpenAI mengatakan kepada The New York Times bahwa menggunakan ChatGPT untuk mendukung terorisme atau kekerasan merupakan pelanggaran terhadap kebijakannya dan mengatakan pihaknya terus meningkatkan pertahanannya terhadap penyalahgunaan. Meta juga mencatat bahwa penelitian ini terutama melibatkan model AI versi lama dan mengatakan pihaknya telah memperkuat langkah-langkah keamanan sejak saat itu. Sementara itu, xAI dan DeepSeek tidak menanggapi permintaan komentar, menurut laporan tersebut. Rachit Agarwal / Digital Trends Pakar keamanan juga memperingatkan agar tidak berasumsi bahwa AI tiba-tiba memberikan kemampuan manusia super kepada kelompok teroris. Perencanaan dan pelaksanaan serangan masih bergantung pada logistik, pendanaan, komunikasi, dan koordinasi manusia di dunia nyata – hal-hal yang tidak dapat digantikan oleh chatbot. Sebaliknya, para peneliti percaya bahwa AI lebih cenderung membuat anggota yang kurang berpengalaman menjadi lebih mampu dibandingkan mengubah lanskap ancaman secara dramatis. Meski begitu, laporan ini merupakan pengingat bahwa isu keselamatan AI bukan hanya soal siswa yang menyontek pekerjaan rumah atau orang yang membuat gambar palsu. Ketika model AI menjadi lebih mumpuni dan mudah diakses, perusahaan akan terus menghadapi tekanan untuk memastikan alat canggih tetap berguna bagi pengguna yang sah dan semakin sulit dieksploitasi oleh pelaku kejahatan.
Diterbitkan : 2026-07-11 12:09:00
sumber : www.digitaltrends.com
