- Laporan GTIG baru menemukan bahwa alat AI dibuat khusus untuk para penjahat
- Alat-alat ini merupakan pagar pembatas AI yang dirancang untuk keselamatan
- Malware AI ‘Just-in-time’ menunjukkan bagaimana penjahat mengembangkan teknik mereka
GoogleGrup Intelijen Ancaman telah mengidentifikasi perubahan tren AI yang mengkhawatirkan, dimana AI tidak lagi hanya digunakan untuk membuat penjahat menjadi lebih produktif, namun kini juga dikembangkan secara khusus untuk operasi aktif.
Penelitiannya menemukan Model Bahasa Besar (LLM) khususnya digunakan dalam malware, dengan AI ‘Just-in-Time’ seperti PROMPTFLUX – yang ditulis dalam VBScript dan berinteraksi dengan API Gemini untuk meminta ‘teknik pengaburan dan penghindaran VBScript tertentu untuk memfasilitasi modifikasi mandiri “just-in-time”, yang cenderung menghindari deteksi berbasis tanda tangan statis’.
Hal ini menggambarkan bagaimana penjahat bereksperimen dengan LLM untuk mengembangkan ”teknik kebingungan dinamis’ dan menargetkan korban. Sampel PROMPTFLUX yang diperiksa oleh Google menunjukkan bahwa rangkaian kode ini sedang dalam tahap pengujian – sehingga bisa menjadi lebih berbahaya setelah penjahat mengembangkannya lebih lanjut.
Dibangun untuk bahaya
Pasar yang sah alat AI semakin matang, begitu pula pasar gelap kriminal. Forum bawah tanah menawarkan alat AI yang dirancang khusus untuk membantu menurunkan hambatan bagi penjahat untuk terlibat dalam aktivitas terlarang. Hal ini merupakan berita buruk bagi semua orang, karena penjahat tidak lagi harus memiliki keahlian khusus untuk melakukan serangan siber yang rumit, dan mereka memiliki semakin banyak pilihan.
Pelaku ancaman menggunakan taktik yang mirip dengan rekayasa sosial untuk mengesampingkan fitur keamanan AI – berpura-pura menjadi ‘peneliti keamanan siber’ untuk meyakinkan Gemini agar memberi mereka informasi yang mungkin dilarang.
Tapi siapa dalang di balik kejadian ini? Nah, penelitian ini mengidentifikasi, mungkin tidak mengherankan, adanya hubungan dengan aktor-aktor yang disponsori negara dari Iran dan Tiongkok. Kampanye-kampanye ini memiliki beragam tujuan, mulai dari penyelundupan data hingga pengintaian – serupa dengan tujuan yang telah diamati sebelumnya mempengaruhi operasi yang dilakukan oleh negarajuga menggunakan alat AI.
Sejak alat AI dipopulerkan, baik penjahat maupun tim keamanan telah menggunakan alat tersebut untuk meningkatkan produktivitas dan membantu operasi – dan masih belum jelas siapa yang lebih unggul.
Perlindungan pencurian ID terbaik untuk semua anggaran
