
- Varonis menemukan metode injeksi cepat baru melalui parameter URL berbahaya, yang dijuluki “Reprompt.”
- Penyerang dapat mengelabui alat GenAI agar membocorkan data sensitif hanya dengan satu klik
- Microsoft menambal kelemahan tersebut, memblokir serangan injeksi cepat melalui URL
Peneliti keamanan yang ditemukan oleh Varonis Perintah ulangcara baru untuk melakukan serangan gaya injeksi cepat Microsoft Kopilot yang tidak mencakup pengiriman email dengan perintah tersembunyi atau menyembunyikan perintah berbahaya di situs web yang disusupi.
Mirip dengan serangan injeksi cepat lainnya, serangan ini juga hanya membutuhkan satu klik.
Serangan injeksi cepat, seperti namanya, adalah serangan di mana penjahat dunia maya menyuntikkan perintah ke Generatif alat AImengelabui alat tersebut agar memberikan data sensitif. Hal ini sebagian besar dimungkinkan karena alat tersebut belum mampu membedakan dengan baik antara perintah yang akan dieksekusi dan data yang akan dibaca.
Injeksi cepat melalui URL
Biasanya, serangan injeksi cepat bekerja seperti ini: korban menggunakan klien email yang memiliki GenAI yang tertanam (misalnya, Gmail dengan Gemini). Korban tersebut menerima email yang tampak tidak berbahaya yang berisi perintah berbahaya yang tersembunyi. Itu dapat ditulis dalam teks putih dengan latar belakang putih atau diperkecil menjadi font 0.
Saat korban memerintahkan AI untuk membaca email (misalnya, untuk merangkum poin-poin penting atau memeriksa undangan panggilan), AI juga membaca dan menjalankan perintah tersembunyi. Perintah tersebut dapat berupa, misalnya, untuk mengekstrak data sensitif dari kotak masuk ke server di bawah kendali penyerang.
Sekarang, Varonis menemukan hal serupa – serangan injeksi cepat melalui URL. Mereka akan menambahkan serangkaian instruksi rinci yang panjang, dalam bentuk parameter aq, di akhir tautan yang sah.
Berikut tampilan tautannya: http://copilot.microsoft.com/?q=Hello
Kopilot (dan banyak lainnya LLMalat berbasis) memperlakukan URL dengan parameter aq sebagai teks masukan, mirip dengan sesuatu yang diketik pengguna ke dalam prompt. Dalam percobaannya, mereka mampu membocorkan data sensitif yang sebelumnya dibagikan korban kepada AI.
Varonis melaporkan temuannya kepada Microsoft yang, awal pekan lalu, menutup lubang tersebut dan membuat serangan injeksi cepat melalui URL tidak lagi dapat dieksploitasi.
Antivirus terbaik untuk semua anggaran
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.



