Peretas dapat menggunakan 9 alat AI paling populer untuk merakit botnet besar-besaran
Dalam sejarah singkat keamanan AI, injeksi cepat dengan cepat menjadi ancaman utama. Model bahasa besar pada dasarnya tidak dapat membedakan antara instruksi sah yang diberikan oleh pengguna dan instruksi jahat yang menyelinap ke dalam email, kode sumber, dan konten pihak ketiga lainnya yang sedang diproses oleh model tersebut. Hal ini membuatnya mudah untuk secara diam-diam memasukkan perintah jahat yang mudah diikuti oleh LLM. Karena tidak ada cara untuk menegakkan batasan penting antara sumber tepercaya dan tidak tepercaya, pengembang mesin AI harus membuat batasan rumit yang dirancang untuk mengurangi kerusakan, bukan mengatasi akar permasalahan. Sampai saat ini, sebagian besar suntikan cepat termasuk dalam kelas yang dikenal sebagai push, yang mana setiap calon korban menjadi sasarannya. Misalnya, musuh memasukkan instruksi jahat ke dalam email individu atau undangan kalender. Karena suntikan kemudian harus dikirim (atau didorong) ke setiap target tertentu, skala serangannya terbatas, sehingga menghambat eksploitasi massal yang melanda Internet secara luas. Sementara itu, serangan berbasis tarikan, yang mana LLM secara aktif mencari petunjuk permusuhan yang ditanamkan di situs web, masih terbatas. Karena tidak ada cara untuk memikat LLM dalam jumlah besar ke situs jahat, serangan semacam ini juga tidak dapat diperluas. Masuk ke HalluSquatting Sekarang, para peneliti telah merancang serangan berbasis tarikan yang mengubah semua itu. Sebuah serangan baru yang diberi nama HalluSquatting oleh para peneliti memiliki potensi untuk merakit botnet besar-besaran, melakukan DDoSe skala besar, dan menginfeksi perangkat dalam skala besar, yang merupakan serangan injeksi cepat pertama. Serangan ini bekerja terhadap asisten dan agen pengkodean AI, termasuk Cursor, Cursor CLI, Gemini CLI, Windsurf, GitHub Copilot, Cline, OpenClaw, ZeroClaw, dan NanoClaw, yang semuanya rentan. Dalam aktivitas normal sehari-hari, asisten dan agen ini secara rutin mengambil kode dan sumber daya lainnya dari repositori dan registri. Model ancaman HalluSquatting. Kredit: Spira dkk. Model ancaman HalluSquatting. Kredit: Spira dkk. Singkatan dari adversarial halusination squatting, HalluSquatting dibangun berdasarkan kecenderungan melekat LLM untuk berhalusinasi pengidentifikasi sumber daya yang dihosting di repositori dan pendaftar. Ia bekerja melawan agen dan asisten pengkodean, yang biasanya mengakses baris perintah dengan hak istimewa tinggi untuk menjalankan kode dari sumber daya pihak ketiga. Dengan memprediksi pengidentifikasi yang kemungkinan besar akan membuat LLM berhalusinasi dan kemudian mendaftarkan dan memberikan instruksi untuk memasang reverse shell atau perangkat berbahaya lainnya, serangan tersebut dapat menginfeksi sejumlah besar perangkat tanpa pandang bulu tanpa harus menargetkan masing-masing perangkat.
Diterbitkan : 2026-07-08 07:00:00
sumber : arstechnica.com
