Lupakan kesalahan ketik; slopsquatting adalah ancaman rantai pasokan perangkat lunak yang diciptakan oleh alat pengkodean AI
Slopsquatting mewakili munculnya ancaman rantai pasokan yang dimungkinkan oleh halusinasi AI. Ketika pengembang semakin bergantung pada asisten pengkodean AI, mereka tanpa sadar memberikan akses kepada penjahat dunia maya ke perangkat lunak mereka sejak hari pertama. Memahami apa itu slopsquattingSlopsquatting adalah jenis serangan rantai pasokan baru yang menggunakan halusinasi model bahasa besar (LLM) untuk memasukkan kode berbahaya ke dalam alur kerja pengembangan. Istilah ini menggabungkan “AI slop” dan “typosquatting,” sebuah praktik penipuan di mana penyerang mendaftarkan versi domain populer yang salah eja atau mirip untuk memangsa pengguna yang salah memasukkan URL. Vektor serangan baru ini mengeksploitasi kecenderungan LLM untuk menghasilkan nama paket perangkat lunak fiktif, yang kemudian dapat didaftarkan oleh pelaku ancaman dan diisi dengan kode berbahaya. Selama pengkodean yang dibantu AI, model tersebut dapat menghasilkan paket sumber terbuka palsu — kumpulan kumpulan file, program, dan alat instalasi. Hal ini saja belum tentu berbahaya. Namun, jika penyerang mendaftarkan nama paket palsu tersebut, mereka dapat menyuntikkan malware yang langsung dimasukkan ke dalam basis kode pengembang. Bagaimana AI menciptakan risiko rantai pasokan Secara tradisional, risiko keamanan AI berasal dari halusinasi, yang dapat berdampak buruk bagi pengguna yang menganggap informasi yang salah sebagai informasi yang valid. Namun, halusinasi tersebut telah berkembang menjadi kerentanan keamanan yang dapat dieksploitasi. Typosquatting adalah praktik penipuan di mana penjahat dunia maya mendaftarkan versi paket populer yang salah eja untuk mengelabui pengembang. Penyakit ini sudah ada selama beberapa dekade, sehingga pendaftar telah membangun perlindungan terhadapnya. Namun, AI telah mengubah model ancaman. Ini merekomendasikan paket fiktif yang terdengar masuk akal daripada membuat kesalahan ejaan yang sederhana. Setelah penyerang mengetahui model paket halusinasi mana yang cenderung diciptakan, mereka dapat mendaftarkan paket berisi malware dengan nama tersebut. Karena paket halusinasi tersebut bukan sekadar versi ketik dari perpustakaan populer, tidak ada perlindungan terhadap praktik ini dalam skala besar. Misalnya, registri melindungi terhadap penyerang yang memublikasikan “crossenv”, yang merupakan bagian dari paket “cross-env” yang populer. Namun, itu tidak akan mengidentifikasi “mpn install cross-env file” atau “cross-env-exended” sebagai ancaman. Halusinasi terus-menerus dan parahMeskipun banyak LLM merekomendasikan paket halusinasi yang sama, kompromi yang luas masih mungkin terjadi. Paket berbahaya bisa tetap tidak terdeteksi dalam produksi selama berbulan-bulan atau bahkan bertahun-tahun, sehingga memungkinkan pelaku ancaman untuk secara pasif menyuntikkan malware ke berbagai lingkungan yang tak terhitung jumlahnya. Satu tim peneliti menganalisis 31,267 kerentanan milik 14,675 paket di 10 bahasa pemrograman. Mereka menemukan bahwa kerentanan yang dilaporkan meningkat pada tingkat tahunan sebesar 98%, pertumbuhan yang lebih cepat dibandingkan peningkatan tahunan sebesar 25% dalam jumlah paket perangkat lunak sumber terbuka. Tim juga mengamati peningkatan rata-rata umur kerentanan sebesar 85%, yang menunjukkan penurunan keamanan. Bahaya halusinasi AI di dunia nyata Pelaku jahat dapat membuat paket akses terbuka dengan nama yang sama seperti perpustakaan yang biasanya berhalusinasi. Alih-alih kode standar, mereka berisi malware. Para model percaya bahwa mereka mengacu pada paket yang sudah ada, sehingga mereka sering mengulangi nama halusinasi yang sama. Karena halusinasi ini tidak terjadi secara acak, penyerang secara teoritis dapat mendaftarkan paket yang menipu puluhan ribu pengembang. Paket-paket ini tampak sah. Kesamaan string dengan perpustakaan sebenarnya membuatnya mudah dikenali. Kesalahan ketik satu karakter menunjukkan kesalahan sederhana, bukan niat jahat. Bahkan nama yang sepenuhnya dibuat-buat tetap dapat dipercaya jika AI menyajikannya dalam konteks yang tepat. Deteksi merupakan hal yang menantang, karena pengembang memercayai asisten pengkodean mereka untuk merekomendasikan dependensi yang valid. Mengapa LLM membuat paket berhalusinasi? LLM menghasilkan jawaban yang paling mungkin secara statistik daripada memprioritaskan keakuratan. Akibatnya, halusinasi relatif umum terjadi. Sebuah penelitian menemukan tingkat halusinasi berkisar antara 50% hingga 82%, bergantung pada model dan metode dorongannya. Bahkan GPT-4o, model dengan kinerja terbaik, mencapai tidak lebih rendah dari 23%, bahkan dengan mitigasi berbasis cepat. Serangan halusinasi yang merugikan dapat memperburuk masalah ini. Pelaku ancaman dapat memanfaatkan manipulasi tingkat token atau keracunan pengambilan untuk memaksa model berhalusinasi dengan cara yang mereka inginkan, sehingga meningkatkan kemungkinan model merekomendasikan paket berbahaya mereka. LLM mana yang rentan terhadap slopsquatting? Meskipun semua LLM rentan terhadap slopsquatting, beberapa di antaranya lebih rentan dibandingkan yang lain. Kemungkinan menghasilkan paket halusinasi selama pembuatan kode bergantung pada modelnya. Model berpemilik empat kali lebih kecil kemungkinannya untuk menghasilkan paket halusinasi dibandingkan model sumber terbuka. Sebuah kelompok penelitian membuktikan hal ini dengan melakukan 30 pengujian pada 30 sistem berbeda. Dari 576.000 sampel kode dan 2,23 juta paket yang dihasilkannya, 19,7% merupakan halusinasi. GPT-4.0 Turbo memiliki tingkat halusinasi sebesar 3,59%, sedangkan DeepSeek 1B, model sumber terbuka dengan kinerja terbaik, mencapai 13,63%. Penelitian ini menunjukkan bahwa organisasi yang mengandalkan alat AI sumber terbuka untuk pembuatan kode kira-kira empat kali lebih rentan terhadap serangan slopsquatting. Namun hal ini tidak berarti alat berpemilik akan selalu lebih aman. Begitu penyerang menyadari perbedaan ini, mereka dapat memanipulasi LLM kepemilikan untuk mengambil keuntungan dari keamanan yang dirasakan. Vibe coding berkontribusi terhadap masalah ini. Pengembang perangkat lunak yang menggunakan alat AI memperkirakan bahwa lebih dari 40 persen kode yang mereka lakukan mencakup bantuan AI. Mereka memperkirakan persentase tersebut akan meningkat pesat dalam beberapa tahun mendatang. Saat ini, 72% dari mereka yang telah mencoba AI menggunakannya setiap hari. Peningkatan dalam pengkodean getaran dan pengkodean yang dibantu AI memperkuat permukaan ancaman. Karena semakin banyak pengembang yang mengintegrasikan alat AI ke dalam alur kerja mereka tanpa menerapkan proses verifikasi yang tepat, serangan terhadap slopsquatting terus meluas. Bagi mereka yang menggunakan AI untuk membantu pengkodean, pemeriksaan ulang terhadap keluaran sangatlah penting. Memverifikasi bahwa paket yang direkomendasikan benar-benar ada di repositori resmi sebelum memasukkannya ke dalam proyek akan mengurangi risiko. Menavigasi pengembangan yang dibantu AI. Menerapkan pemeriksaan otomatis yang memvalidasi nama paket terhadap registri yang dikenal dapat membantu menangkap paket yang berhalusinasi sebelum memasukkan kode produksi. Tim keamanan juga harus memantau instalasi paket yang tidak biasa dan menjaga intelijen ancaman terkini pada kampanye ceroboh yang diketahui. Zac Amos adalah Editor Fitur di ReHack. Selamat datang di komunitas VentureBeat! Program posting tamu kami adalah tempat para pakar teknis berbagi wawasan dan memberikan penjelasan mendalam yang netral dan tidak terikat pada AI, infrastruktur data, keamanan siber, dan teknologi mutakhir lainnya yang membentuk masa depan perusahaan. Baca lebih lanjut dari program posting tamu kami — dan lihat pedoman kami jika Anda tertarik untuk berkontribusi artikel Anda sendiri!
Diterbitkan : 2026-07-11 16:00:00
sumber : venturebeat.com
