- Para peneliti menemukan injeksi cepat AI Gemini melalui undangan Google Kalender
- Penyerang dapat mengambil data pertemuan pribadi dengan interaksi pengguna yang minimal
- Kerentanan telah dimitigasi, sehingga mengurangi risiko eksploitasi langsung
Peneliti keamanan menemukan cara lain untuk menjalankan serangan injeksi cepat GoogleGemini AI, kali ini melakukan eksfiltrasi sensitif Google Kalender data.
Injeksi cepat adalah jenis serangan di mana aktor jahat menyembunyikan perintah dalam pesan yang sebenarnya tidak berbahaya. Saat korban menceritakannya AI untuk menganalisis pesan (atau menggunakannya sebagai data dalam pekerjaannya), AI akhirnya menjalankan perintah dan melakukan perintah aktor.
Pada intinya, injeksi cepat dimungkinkan karena AI tidak dapat membedakan antara instruksi dan data yang digunakan untuk menjalankan instruksi tersebut.
Menyalahgunakan Gemini dan Kalender
Sejauh ini, serangan injeksi cepat hanya terbatas pada pesan email, dan instruksi untuk meringkas, atau membaca email. Dalam riset terbaru, Miggo Security mengatakan hal serupa bisa dilakukan melalui Google Kalender.
Saat seseorang membuat entri kalender, mereka dapat mengundang peserta lain dengan menambahkan alamat emailnya. Dalam skenario ini, pelaku ancaman dapat membuat entri kalender yang berisi perintah berbahaya (untuk mengambil data kalender) dan mengundang korban. Undangan tersebut kemudian dikirim dalam bentuk email yang berisi petunjuknya. Langkah selanjutnya adalah korban menginstruksikan AI mereka untuk memeriksa kejadian yang akan datang.
AI akan menguraikan perintah tersebut, membuat acara Kalender baru dengan detailnya, dan menambahkan penyerang, yang secara langsung memberi mereka akses ke informasi sensitif.
“Pintasan ini memungkinkan akses tidak sah ke data pertemuan pribadi dan pembuatan acara kalender yang menipu tanpa interaksi langsung dengan pengguna,” kata para peneliti kepada The Hacker News.
“Namun, di balik layar, Gemini membuat acara kalender baru dan menulis ringkasan lengkap pertemuan pribadi pengguna target kami dalam deskripsi acara,” kata Miggo. “Dalam banyak konfigurasi kalender perusahaan, acara baru dapat dilihat oleh penyerang, memungkinkan mereka membaca data pribadi yang dieksfiltrasi tanpa pengguna target mengambil tindakan apa pun.”
Masalah ini telah diatasi, Miggo menegaskan.
Melalui Berita Peretas
Antivirus terbaik untuk semua anggaran
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
