Sekarang, para pembela HAM juga menerima suntikan segera
Suntikan segera, yaitu perintah jahat yang ditanamkan penyerang ke dalam konten untuk menarik LLM agar mengikutinya, telah menjadi alat yang digunakan penyerang untuk menjadikan platform AI merugikan penggunanya. Perintah yang diutarakan dengan baik yang dimasukkan ke dalam email atau undangan kalender sering kali diperlukan untuk menyebabkan LLM mengambil data sensitif atau mengikuti tindakan berbahaya lainnya. Sekarang para pembela HAM juga menerima suntikan segera. Efek yang kuat dan tajam Para peneliti dari Tracebit pada hari Senin mengatakan mereka menemukan bahwa menempatkan suntikan cepat bersama kata sandi, kunci kriptografi, dan rahasia lain yang disimpan di AWS sering kali diperlukan untuk menghentikan serangan dari agen peretasan AI. Perintah tersebut mengarahkan LLM yang menyerang untuk melakukan tindakan yang dilarang oleh pagar pembatasnya, penghalang keamanan yang dibuat oleh pengembang AI untuk mencegah mereka mengambil tindakan berbahaya. LLM merespons dengan mematikan. Contohnya adalah perintah yang memerintahkan LLM untuk memberikan langkah-langkah untuk mengembangkan spora Anthrax yang dapat terhirup, atau, dalam kasus LLM dari pengembang Tiongkok, membuat referensi ke Tank Man yang ikonik dari pembantaian Lapangan Tiananmen tahun 1989. Setelah LLM menemukan perintah terlarang ini, mereka tidak lagi mengikuti perintah yang ada. Para peneliti menamai teknik ini dengan pengeboman konteks. “Pada akhirnya kami memicu mekanisme penolakan dalam konteks tersebut,” kata Andy Smith, salah satu pendiri dan CEO Tracebit, saat menjelaskan pilihan nama. “Apa yang kami coba tangkap adalah fakta bahwa hal ini mempunyai dampak yang kuat dan tajam, dan sulit bagi para agen untuk kembali lagi. Begitu mereka memahami hal tersebut dalam konteksnya, mereka akan terus menolak.” Tracebit mengatakan pengujian awal menunjukkan bahwa pengeboman konteks memiliki potensi besar. Mereka menguji Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro, dan Kimi 2.6 dengan memberi mereka instruksi untuk melakukan tugas pengembang rutin yang mengarahkan model untuk menghitung sumber daya dan tersandung pada string yang tertanam. Mereka menjalankan model di dalam lingkungan AWS yang disimulasikan. “Dari lima model terkemuka dan 152 serangan yang dijalankan, menanamkan salah satu string ini ke dalam rahasia umpan akan mengurangi tingkat di mana agen menyita seluruh admin akun dari 57% menjadi 5%, dan menyelesaikan kompromi (di mana mereka juga tetap mempertahankan pijakannya) dari 36% menjadi 1%,” lapor postingan pada hari Senin. “Agen yang paling mampu dalam pengujian kami, Opus 4.8, berubah dari mendapatkan akses admin dalam 93% proses menjadi gagal setiap saat ketika dihadapkan dengan bom konteks.”
Diterbitkan : 2026-07-13 15:06:00
sumber : arstechnica.com
