- Check Point memperingatkan alat GenAI dapat disalahgunakan sebagai infrastruktur C2
- Malware dapat menyembunyikan lalu lintas dengan menyandikan data ke dalam URL yang dikendalikan penyerang melalui kueri AI
- Asisten AI dapat bertindak sebagai mesin pengambilan keputusan, memungkinkan operasi malware yang adaptif dan tersembunyi
Peretas dapat menggunakan beberapa alat Kecerdasan Buatan Generatif (GenAI) sebagai infrastruktur perintah dan kontrol (C2), menyembunyikan lalu lintas berbahaya di depan mata dan bahkan menggunakannya sebagai mesin pengambilan keputusan, demikian peringatan para ahli.
Penelitian dari Titik Pemeriksaan klaim Microsoft Kemampuan penjelajahan web Copilot dan xAI Grok dapat dimanfaatkan untuk aktivitas jahat, meskipun beberapa prasyarat tetap ada.
Menyebarkan perangkat lunak perusak pada perangkat hanyalah setengah dari pekerjaan. Malware tersebut masih perlu diberi instruksi apa yang harus dilakukan, dan hasil dari instruksi tersebut masih perlu dikirim melalui internet. Solusi keamanan dapat menangkap lalu lintas ini dan dengan demikian menentukan apakah suatu perangkat disusupi atau tidak – itulah sebabnya “mencampur dengan lalu lintas yang sah” adalah salah satu fitur utama malware berkualitas tinggi – dan sekarang, Check Point mengatakan bahwa ada cara untuk melakukan hal tersebut melalui asisten AI.
Memanen data sensitif dan mendapatkan instruksi lebih lanjut
Jika pelaku ancaman menginfeksi perangkat dengan malware, ia dapat mengambil data sensitif dan informasi sistem, mengkodekannya, dan memasukkannya ke dalam URL yang dikendalikan oleh penyerang. Misalnya, http://malicious-site.com/report?data=12345678, dengan bagian data= berisi informasi sensitif.
Kemudian, malware tersebut dapat menginstruksikan AI: “Ringkaslah isi situs web ini”. Karena ini adalah lalu lintas AI yang sah, ini tidak memicu alarm keamanan apa pun. Namun, informasi tersebut masuk ke server yang dikendalikan penyerang, dan berhasil menyampaikannya di depan mata. Lebih buruk lagi, situs web dapat merespons dengan perintah tersembunyi yang dijalankan AI.
Masalahnya bisa bertambah parah jika malware menanyakan AI apa yang harus dilakukan selanjutnya. Misalnya, ia dapat menanyakan, berdasarkan informasi sistem yang dikumpulkannya, apakah sistem tersebut berjalan di sistem perusahaan bernilai tinggi, atau sandbox. Jika yang terakhir adalah malware, maka malware tersebut akan tetap tidak aktif. Jika tidak, maka dapat dilanjutkan ke tahap kedua.
“Setelah layanan AI dapat digunakan sebagai lapisan transportasi tersembunyi, antarmuka yang sama juga dapat membawa perintah dan keluaran model yang bertindak sebagai mesin keputusan eksternal, batu loncatan menuju implan Berbasis AI dan C2 gaya AIOps yang mengotomatiskan triase, penargetan, dan pilihan operasional secara real time,” Check Point menyimpulkan.
Antivirus terbaik untuk semua anggaran
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
