- Fragmen URL tersembunyi memungkinkan penyerang memanipulasi asisten AI tanpa sepengetahuan pengguna
- Beberapa asisten AI mengirimkan data sensitif ke titik akhir eksternal secara otomatis
- Panduan menyesatkan dan tautan palsu dapat muncul di situs web normal
Banyak AI browser menghadapi pengawasan ketat setelah para peneliti merinci bagaimana sebuah fragmen sederhana dalam URL dapat digunakan untuk mempengaruhi asisten browser.
Penelitian baru dari Jaringan Cato menemukan teknik “HashJack” memungkinkan instruksi jahat untuk diam setelah hashtag di tautan yang sah, menciptakan jalur untuk perintah rahasia yang tetap tidak terlihat oleh alat pemantauan tradisional.
Asisten memproses teks tersembunyi secara lokal, yang berarti server tidak pernah menerimanya, dan pengguna terus melihat halaman normal sementara browser mengikuti instruksi yang tidak pernah mereka ketik.
Perilaku asisten saat memproses fragmen
Pengujian menunjukkan asisten tertentu mencoba melakukan tindakan otonom ketika terkena fragmen ini, termasuk tindakan yang mengirimkan data ke lokasi eksternal yang dikendalikan oleh penyerang.
Yang lain memberikan panduan yang menyesatkan atau mempromosikan tautan yang meniru sumber tepercaya, memberikan kesan sesi normal sambil mengubah informasi yang diberikan kepada pengguna.
Browser terus menampilkan situs yang benar, sehingga penyusupan sulit dideteksi tanpa pemeriksaan cermat terhadap respons asisten.
Perusahaan-perusahaan teknologi besar telah diberitahu mengenai masalah ini, namun tanggapan mereka sangat bervariasi.
Beberapa vendor menerapkan pembaruan pada fitur browser AI mereka, sementara vendor lain menilai perilaku tersebut sesuai yang diharapkan berdasarkan logika desain yang ada.
Perusahaan mengatakan pertahanan terhadap manipulasi cepat tidak langsung bergantung pada cara setiap asisten AI membaca instruksi halaman tersembunyi.
Alat inspeksi lalu lintas reguler hanya dapat mengamati fragmen URL yang keluar dari perangkat.
Oleh karena itu, tindakan keamanan konvensional memberikan perlindungan terbatas dalam skenario ini karena fragmen URL tidak pernah meninggalkan perangkat untuk diperiksa.
Hal ini memaksa para pembela HAM untuk bergerak melampaui tinjauan di tingkat jaringan dan mengkaji bagaimana caranya alat AI terintegrasi dengan browser itu sendiri.
Pengawasan yang lebih kuat memerlukan perhatian terhadap perilaku lokal, termasuk cara asisten memproses konteks tersembunyi yang tidak terlihat oleh pengguna.
Organisasi harus menerapkan kebijakan yang lebih ketat perlindungan titik akhir dan lebih ketat firewall aturan, tapi ini hanya lapisan dan tidak memperbaiki kesenjangan visibilitas.
Metode HashJack menggambarkan kerentanan unik pada penelusuran yang dibantu AI, di mana situs web sah dapat dijadikan senjata tanpa meninggalkan jejak konvensional.
Kesadaran akan keterbatasan ini sangat penting bagi organisasi yang menggunakan alat AI, karena pemantauan tradisional dan tindakan pertahanan tidak dapat sepenuhnya menangkap ancaman-ancaman ini.
Bagaimana agar tetap aman
- Batasi informasi pribadi yang dibagikan secara online.
- Pantau akun keuangan untuk aktivitas yang tidak biasa.
- Gunakan kata sandi yang unik dan rumit untuk semua akun.
- Verifikasi URL sebelum masuk ke situs web.
- Berhati-hatilah terhadap pesan atau telepon yang tidak diminta yang mengaku berasal dari lembaga keuangan.
- Menyebarkan perangkat lunak antivirus untuk melindungi perangkat dari malware.
- Memungkinkan firewall untuk memblokir akses yang tidak sah.
- Menggunakan perlindungan pencurian identitas untuk memantau informasi pribadi.
- Sadarilah bahwa kampanye phishing yang canggih dan serangan berbasis AI masih menimbulkan risiko.
- Efektivitas bergantung pada implementasi yang konsisten di seluruh perangkat dan jaringan.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
