Para peneliti menyembunyikan suntikan cepat di dalam PNG, dan AI pun menyukainya
Asisten pengkodean AI seperti Claude menjadi rekan kerja favorit setiap pengembang. Mereka dapat meninjau kode, menjelaskan fungsi yang membingungkan, dan bahkan menulis seluruh fitur dengan satu perintah. Namun penelitian baru menunjukkan bahwa meningkatnya kepercayaan ini juga bisa menjadi kelemahan terbesar mereka. Sebuah tim peneliti keamanan (profesor Sudipta Chattopadhyay dan peneliti Murali Ediga) telah menunjukkan serangan tidak biasa yang tidak menargetkan model AI secara langsung. Sebaliknya, ia menargetkan hal-hal yang tidak cukup diperhatikan oleh AI selama peninjauan kode. Daripada menyembunyikan instruksi berbahaya dalam baris kode, para peneliti memasukkannya ke dalam file gambar. Karena banyak alat peninjauan AI memperlakukan gambar sebagai aset dekoratif dan bukan sebagai sesuatu yang layak untuk diperiksa, permintaan penarikan mungkin tampak tidak berbahaya dan tidak lolos peninjauan. File yang paling berbahaya mungkin adalah file yang tidak pernah Anda buka Bayangkan menerima dokumen dengan logo perusahaan di sudutnya. Anda mungkin akan melihatnya sekilas dan melanjutkan. Sekarang bayangkan logo itu secara diam-diam berisi instruksi yang memberitahu asisten AI Anda untuk membuka brankas kata sandi Anda saat Anda menggunakannya lagi. Pada dasarnya itulah ide di balik pembuktian konsep ini. Triknya juga tidak langsung dijalankan setelah kode digabungkan. Ia menunggu hingga pengembang kemudian meminta asisten pengkodean AI untuk melakukan tugas yang sama sekali tidak terkait, seperti membuat fungsi pembantu atau menambahkan modul baru. Pada saat itu, AI telah menyerap instruksi tersembunyi dan tanpa sadar dapat mengakses file proyek sensitif sebelum memasukkan informasi rahasia ke dalam kode yang dihasilkannya. RyanDonegan / Flickr Yang paling mengkhawatirkan adalah data yang dicuri tidak dimasukkan ke dalam kode sumber dengan cara yang jelas. Sebaliknya, nilai tersebut disamarkan sebagai nilai-nilai biasa yang menyatu dengan kode yang sah, sehingga kecil kemungkinannya untuk memicu alat keamanan yang ada atau menarik perhatian pengembang selama peninjauan singkat. Ini bukan hanya tentang AI mana yang Anda gunakan. Para peneliti juga menemukan bahwa hasilnya tidak ditentukan oleh model bahasa besar mana yang digunakan. Dalam banyak kasus, model AI yang sama berperilaku sangat berbeda bergantung pada asisten pengkodean yang menanganinya. Beberapa alat secara membabi buta mengikuti instruksi tersembunyi, sementara yang lain mengenali sesuatu yang mencurigakan dan menolak untuk melanjutkan. Ini merupakan perbedaan yang penting karena menunjukkan bahwa masalahnya tidak terbatas pada chatbot tertentu. Tantangan sebenarnya terletak pada bagaimana platform pengkodean yang didukung AI memutuskan informasi apa yang harus dipercaya dan file proyek mana yang boleh mereka akses. Agen AI Unsplash Kabar baiknya adalah para peneliti tidak percaya ini adalah masalah yang mustahil untuk dipecahkan. Mereka berpendapat bahwa alat peninjauan AI harus menjadi “multimodal” dalam arti sebenarnya – memperlakukan gambar, dokumentasi, file konfigurasi, dan aset non-kode lainnya dengan tingkat pengawasan yang sama seperti kode sumber. Jika AI dapat membaca gambar, ia juga perlu memahami bahwa gambar tersebut mungkin mencoba memanipulasinya. Bagi pengembang, ini merupakan pengingat bahwa alat pengkodean AI masih memerlukan pengawasan. Mereka dapat mempercepat pengembangan perangkat lunak secara signifikan, namun juga membuka permukaan serangan baru yang belum pernah ada sebelumnya. Risiko keamanan berikutnya mungkin tidak tersembunyi dalam ribuan baris kode — risiko tersebut bisa saja berada di dalam gambar yang menurut siapa pun tidak layak untuk dibuka.
Diterbitkan : 2026-07-11 12:42:00
sumber : www.digitaltrends.com
