- Unit 42 memperingatkan GenAI memungkinkan situs web phishing yang dinamis dan dipersonalisasi
- LLM menghasilkan muatan JavaScript unik, menghindari metode deteksi tradisional
- Para peneliti mendesak pagar pembatas yang lebih kuat, pencegahan phishing, dan membatasi penggunaan LLM di tempat kerja
Ketika Kecerdasan Buatan Generatif (GenAI) pertama kali muncul, para pembuat opini awal sedang mendiskusikan situs web dinamis – situs yang tidak dirancang terlebih dahulu dan diresmikan, namun dibuat langsung di tempat, untuk pengunjung, bergantung pada lokasi mereka, kata kunci yang digunakan, kebiasaan menjelajah, perangkat yang digunakan, niat, dan sebagainya.
Era situs web statis tampaknya hampir berakhir, dan dalam waktu singkat, konten yang kita lihat di internet akan menjadi unik dan dirancang khusus untuk kita.
Meskipun impian tersebut masih belum terwujud, pionir dari pendekatan ini kemungkinan besar adalah para pelaku kejahatan siber.
Tidak sepenuhnya teoretis
Peneliti keamanan dari Palo Alto Networks’ Satuan 42 lengan telah menemukan teknik ini dapat dengan mudah digunakan dalam phishing.
Singkatnya, inilah cara kerjanya:
Seorang korban akan terkena phishing untuk mengunjungi halaman web yang tampaknya tidak berbahaya. Ini tidak mengandung kode berbahaya yang terlihat, tetapi setelah dimuat, ia mengirimkan perintah yang dibuat dengan cermat ke yang sah LLM API. LLM mengembalikan kode JavaScript (yang unik dan berbeda untuk setiap pengguna), yang kemudian dirakit dan dieksekusi langsung di browser.
Hasilnya, para korban disuguhi halaman phishing yang berfungsi penuh dan dipersonalisasi, yang dihasilkan tanpa muatan statis yang dikirimkan melalui jaringan yang dapat disadap dan dianalisis oleh para peneliti.
Meskipun metode ini sebagian besar merupakan pembuktian konsep saat ini, metode ini juga tidak sepenuhnya bersifat hipotetis. Unit 42 tidak mengatakan pihaknya mengamati serangan semacam itu di alam liar, namun mengisyaratkan bahwa blok bangunan sedang digunakan.
LLM sudah menghasilkan JavaScript yang dikaburkan, meskipun offline; penggunaan runtime pada mesin yang disusupi ada dimana-mana; Malware, ransomware, dan kampanye spionase dunia maya yang dibantu LLM semakin meningkat jumlahnya setiap hari.
Laman phishing yang dihasilkan secara dinamis adalah masa depan penipuan, Unit 42 menekankan, namun menambahkan bahwa deteksi masih dapat dilakukan melalui perayap berbasis browser yang ditingkatkan.
“Para pembela HAM juga harus membatasi penggunaan layanan LLM yang tidak berizin di tempat kerja. Meskipun ini bukan solusi menyeluruh, hal ini dapat berfungsi sebagai tindakan pencegahan yang penting,” tambah mereka.
“Terakhir, pekerjaan kami menyoroti perlunya pagar pengaman yang lebih kuat di platform LLM, karena kami menunjukkan bagaimana rekayasa yang dilakukan secara hati-hati dan cepat dapat menghindari perlindungan yang ada dan memungkinkan penggunaan yang berbahaya.”
Antivirus terbaik untuk semua anggaran
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
