- Anthropic mengatakan pihaknya menemukan serangan siber yang seluruhnya menggunakan AI yang menargetkan setidaknya 30 organisasi
- Ini diyakini sebagai serangan pertama tanpa campur tangan manusia yang berarti
- Pelaku ancaman semakin banyak menggunakan AI dalam serangan mereka, begitu pula para pembela HAM
Para peneliti di Anthropic punya telah menemukan modelnya sendiri, Claude digunakan, dalam kapasitas agen, tidak hanya sebagai penasihat, tetapi juga dalam melaksanakan serangan siber itu sendiri.
Perusahaan tersebut mengatakan kampanye spionase dunia maya yang sangat canggih memanipulasi alat Claude Code milik Anthropic dalam upaya menyusup ke sekitar 30 target global – terutama menargetkan perusahaan teknologi besar, lembaga pemerintah, dan lembaga keuangan.
Ketika Ancaman keamanan siber yang didorong oleh AI menghantam dunia usaha Kini menjadi sebuah kisah yang familiar, yang membuat serangan ini berbeda, menurut kata-kata Anthropic sendiri, adalah, “Kami yakin ini adalah kasus pertama serangan siber skala besar yang terdokumentasikan dan dilakukan tanpa campur tangan manusia secara signifikan.”
Aktivitas hubungan Tiongkok
Anthropic mengatakan pihaknya kini telah menilai dengan ‘keyakinan tinggi’ bahwa pelaku ancaman ini adalah aktor jahat Tiongkok yang disponsori negara. Setelah aktivitas terdeteksi, penyelidikan menentukan bahwa serangan tersebut mengandalkan beberapa fitur model AI yang tidak tersedia pada tahun 2024.
Kecerdasan yang diperlukan untuk mengikuti perintah kompleks dan tugas pengkodean dalam konteks adalah fitur yang baru saja mencapai tingkat yang diperlukan – dan ini dipadukan dengan alat yang baru dikembangkan yang memungkinkan mereka memecahkan kata sandi, memindai jaringan, dan banyak lagi.
Mungkin yang paling penting adalah agensi yang dimiliki para model saat ini. Itu kebangkitan Agen AI berarti AI dapat menyelesaikan tugas-tugas ini sendiri hanya dengan masukan yang minimal dan sesekali – mengambil keputusan dan berjalan berulang-ulang.
“Agen sangat berharga untuk pekerjaan dan produktivitas sehari-hari—tetapi jika berada di tangan yang salah, mereka dapat secara signifikan meningkatkan kemungkinan terjadinya serangan siber skala besar,” jelas Anthropic.
“Kampanye ini memiliki implikasi besar terhadap keamanan siber di era “agen” AI, yaitu sistem yang dapat dijalankan secara mandiri untuk jangka waktu lama dan menyelesaikan tugas-tugas kompleks yang sebagian besar tidak bergantung pada campur tangan manusia.”
Tim keamanan dan peretas akan sangat menyadari kekuatan transformatif AI – karena lanskap dunia maya telah diubah oleh alat otomatis untuk penyebaran dan deteksi ancaman.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
Perlindungan pencurian ID terbaik untuk semua anggaran
