- Anthropic mengklaim pihaknya mengamati serangan siber AI tanpa campur tangan manusia yang signifikan
- Para ahli mengatakan klaim ini kemungkinan besar dibesar-besarkan karena intervensi manusia diremehkan
- Laporan tersebut hanya menguraikan apa yang sudah diketahui oleh para profesional keamanan: alat AI mempercepat proses serangan.
Antropik baru-baru ini melaporkan Peretas Tiongkok telah membajak platform Claude untuk meluncurkan serangan siber yang sepenuhnya diatur oleh AI – namun klaim ini mendapat tanggapan skeptis dari komunitas keamanan siber.
Tampaknya, meskipun AI melakukan sebagian besar serangan (kira-kira 80-90%), teknologi tersebut masih memerlukan masukan penting dari manusia – karena AI tidak dapat ‘berpikir’ sendiri, ia hanya dapat menyalin.
Beberapa peneliti percaya bahwa ini hanyalah taktik pemasaran untuk meningkatkan kemampuan AI, atau mungkin semacamnya ketakutan untuk menyebarkan narasi seputar persaingan AI antara AS dan Tiongkok.
Tidak ada yang baru
“Saya terus menolak untuk percaya bahwa penyerang entah bagaimana mampu membuat model ini melewati rintangan yang tidak dapat dilakukan orang lain,” kata Dan Tentler, pendiri eksekutif Phobos Group. Ars Teknika.
“Mengapa model-model tersebut 90% selalu memberikan apa yang diinginkan para penyerang, namun sebagian dari kita harus berurusan dengan tindakan yang tidak sopan, diam-diam, dan melakukan perjalanan yang asam?”
Meskipun benar bahwa AI telah berkembang pesat dalam beberapa bulan terakhir, AI masih kecil kemungkinannya untuk dapat menyelesaikan serangkaian tugas rumit tanpa campur tangan manusia. Alat-alat tersebut memang berguna, namun justru meningkatkan kemampuan manusia dibandingkan menggantikannya sama sekali.
“Implikasinya di sini adalah penyerang menggunakan peralatan yang ada, namun menggunakan agen AI untuk menggantikan manusia yang biasanya menggerakkan peralatan tersebut dan melewati fase serangan dengan lebih cepat,” kata Tim Mitchell, Peneliti Keamanan Senior, Unit Penanggulangan Ancaman X-Ops Sophos.
“Dari sudut pandang pemain bertahan, itu berarti tidak ada hal baru yang perlu dipertahankan di sini – namun peluang untuk mengenali dan bertahan dari serangan menjadi jauh lebih kecil.”
Hal lain yang perlu diperhatikan, berdasarkan laporan Anthropic sendiri, hanya ‘sejumlah kecil’ upaya AI untuk menyusup ke organisasi yang berhasil – meskipun hal ini merupakan langkah pertama dalam proses yang berkembang pesat.
TechRadar Pro telah meminta komentar Anthropic, tetapi tidak mendengar apa pun pada saat penerbitan.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
Perlindungan pencurian ID terbaik untuk semua anggaran
