Gangguan Anthropic baru-baru ini dilaporkan pertama kali AI Kampanye spionase dunia maya mengungkapkan betapa cepatnya pelaku ancaman menggunakan AI agen dalam skala besar.
Munculnya AI agen, ditambah dengan infrastruktur ofensif yang canggih, telah memberikan cetak biru bagi pelaku ancaman untuk mengoperasionalkan rantai alat agen dengan jauh lebih efektif daripada yang dapat dilawan oleh pertahanan saat ini. Saat ini, pelaku ancaman berada di atas angin.
Kenyataan ini sudah terlihat jelas di Inggris, dimana 61% eksekutifnya menyatakan hal tersebut keamanan siber ancaman sebagai perhatian utama agen AI mereka.
Menyadari bahwa keseimbangan kekuatan telah berubah, Rencana Aksi Siber Inggris yang baru-baru ini dikeluarkan oleh Departemen Ilmu Pengetahuan, Inovasi dan Teknologi bertujuan untuk memperkuat keamanan dan ketahanan layanan publik digital terhadap ancaman-ancaman tersebut.
Hal ini tidak mengherankan. Aardvark OpenAI dan hasil kerja tim XBOW, antara lain, menunjukkan bagaimana operator penyerang terampil yang melatih agen pemburu ancaman yang dirancang khusus dapat mengungguli peneliti individu.
Kemampuan serupa kini tersedia bagi pelaku ancaman. Mereka kini memiliki peta jalan yang jelas dalam menggunakan AI untuk melakukan serangan multi-tahap dengan otonomi penuh, tidak lagi dibatasi oleh batasan manusia.
Jika tidak ditangani, rantai serangan agen semacam ini akan menimbulkan masalah besar bagi tim keamanan. Namun, penyerang bukanlah satu-satunya pihak yang dapat memanfaatkan konsolidasi kemampuan dan proses teknis yang sama – tim keamanan dapat menggunakan pendekatan yang sama untuk memperkuat pertahanan mereka.
Apa yang tadinya merupakan kerentanan kini menjadi eksploitasi
Agen AI telah secara drastis mempersingkat waktu antara penemuan kerentanan dan eksploitasi. Sebuah makalah penelitian pada tahun 2024 menunjukkan bagaimana GPT-4, ketika dilengkapi dengan deskripsi CVE, dapat mengeksploitasi kerentanan satu hari di dunia nyata dengan sendirinya. Faktanya, ini berhasil dengan 87% kerentanan yang diuji.
Baru-baru ini, Google mengumumkan bahwa penelitian Big Sleep telah menemukan banyak kerentanan zero-day sumber terbuka proyek. Sebuah kolaborasi antara DeepMind dan Project Zero, Big Sleep menyertakan serangkaian agen multi-fase yang dirancang untuk menemukan kerentanan perangkat lunak dan membangun eksploitasi yang berfungsi.
Meskipun Big Sleep memberdayakan para pemimpin keamanan industri untuk mencegah eksploitasi tersebut terjadi, tidak ada keraguan bahwa pelaku kejahatan menggunakan teknik yang sama untuk menyerang target.
Pelaku ancaman kini mengoperasikan rantai agen
Hal ini tidak lagi sekedar hipotetis. Musuh memecah fase serangan menjadi beban kerja agen yang terpisah dan menggunakan rantai agen untuk mengeksekusi setiap fase secara mandiri.
Misalnya, pelaku ancaman di Korea Utara dan Tiongkok kini menggunakan AI di setiap tahap operasi mereka, mulai dari pembuatan profil korban hingga analisis data dan pembuatan identitas.
Laporan spionase siber Anthropic menemukan bahwa pelaku ancaman Tiongkok menggunakan agen AI untuk melakukan 80-90% operasi serangan secara mandiri, termasuk mengidentifikasi target infrastruktur yang berharga, menemukan kerentanan, mengeksploitasinya, dan mengumpulkan kredensial.
Intervensi manusia diperlukan kurang dari tujuh kali pada titik pengambilan keputusan kritis. Beroperasi dengan ribuan permintaan per detik, agen AI secara drastis memangkas waktu dan tenaga yang dibutuhkan untuk melaksanakan kampanye.
Laporan Intelijen Ancaman Anthropic tahun 2025 juga mengungkapkan bahwa AI memungkinkan pelaku ancaman yang berketerampilan rendah untuk mempelajari dan melaksanakan taktik, teknik, dan prosedur yang lebih canggih.
Penjahat dunia maya dengan keahlian teknis minimal menggunakan Claude untuk mengembangkan dan menjual banyak produk ransomware varian seharga $400-$1.200 di forum internet. Dalam kasus ini, para penjahat hanya mengandalkan AI untuk menerapkan algoritma enkripsi dan teknik penghindaran.
Berkat AI, kini jauh lebih murah bagi penyerang untuk memanfaatkan eksploitasi. AI Agentik memungkinkan serangan-serangan tersebut menjadi lebih otonom, sehingga memungkinkan lebih banyak pelaku ancaman untuk meluncurkan kampanye dalam skala besar.
Tren ini kemungkinan akan menghasilkan lebih banyak kampanye bervolume tinggi yang menargetkan aset data perusahaan yang paling berharga.
Untuk melawan ancaman ini, para pembela HAM harus merespons dengan pertahanan yang sama agennya.
Menggunakan agen untuk bertahan melawan agen
Saat penyerang membangun rantai alat agen, tim merah internal, dan praktisi pertahanan juga harus meningkatkan penggunaan AI agen mereka sendiri. Para pembela HAM memerlukan agen AI yang memanfaatkan sumber daya sistem internal untuk memberikan konteks.
Mereka kemudian dapat menggunakan agen untuk membagi tugas-tugas defensif ke dalam beban kerja terpisah, menyatukannya untuk mengidentifikasi dan memperbaiki kerentanan sebelum dieksploitasi.
Agar agen ini dapat bekerja secara efektif, mereka memerlukan pengetahuan mendalam tentang lingkungan perangkat lunak Anda. Diperlukan pertahanan agen infrastruktur yang memberikan data dan konteks yang tepat kepada agen yang Anda terapkan. Grafik pengetahuan, yang memetakan hubungan di seluruh basis kode, adalah salah satu alat yang dapat memberikan landasan ini.
Pendekatan ini sudah berpindah dari teori ke praktik. Saat ini kami bekerja dengan pelanggan untuk menentukan proses triase dan remediasi kerentanan agen secara menyeluruh yang mengatasi ribuan kerentanan di wilayah mereka yang terus berkembang seiring berjalannya waktu.
Rantai agen ini dapat secara mandiri meninjau laporan kerentanan, memprioritaskan risiko berdasarkan eksploitasi aktual, mengidentifikasi kesalahan positif, mengangkat masalah untuk permasalahan yang valid, menyarankan perbaikan, dan mengajukan permintaan penggabungan.
Dengan mengintegrasikan grafik pengetahuan untuk mengevaluasi potensi “radius ledakan” dari setiap perubahan, agen dapat merekomendasikan tingkat peninjauan manusia yang sesuai yang diperlukan sebelum memulai produksi, sehingga melakukan pengawasan intensif oleh manusia untuk perubahan berisiko tinggi sekaligus mempercepat patch berisiko rendah.
Selain pencegahan, pertahanan agen juga memungkinkan ketahanan. Pembela HAM dapat membagi tugas menjadi aktivitas deteksi dan remediasi dalam konteks runbook organisasi.
Agen dapat menangani semuanya mulai dari identifikasi melalui investigasi dan penahanan, hingga remediasi dan bedah mayat, meminimalkan waktu tunggu dan membatasi dampak.
Kasus penggunaan ini mewakili langkah-langkah yang dapat kita, sebagai pembela HAM, ambil untuk meningkatkan pertahanan agen kita. Konvergensi kemampuan dan proses teknis memberi kita alat baru untuk membantu memerangi pelaku ancaman dan meningkatkan operasi pertahanan kita.
Dengan 57% eksekutif di Inggris menerapkan kerangka tata kelola yang selaras dengan peraturan dan Rencana Aksi Siber (Cyber Action Plan) Inggris untuk mengatasi ancaman-ancaman yang muncul ini, pesannya jelas – para penyerang tidak perlu menunggu untuk memanfaatkan alat-alat tersebut secara maksimal. Dan kita juga tidak seharusnya melakukannya.
Kami telah menampilkan perangkat lunak perlindungan titik akhir terbaik.
Artikel ini dibuat sebagai bagian dari saluran Expert Insights TechRadarPro tempat kami menampilkan para pemikir terbaik dan tercemerlang di industri teknologi saat ini. Pandangan yang diungkapkan di sini adalah milik penulis dan belum tentu milik TechRadarPro atau Future plc. Jika Anda tertarik untuk berkontribusi, cari tahu lebih lanjut di sini: https://www.techradar.com/news/submit-your-story-to-techradar-pro
