Hanya butuh beberapa tahun untuk generatif alat AI seperti ChatGPT yang ada di mana-mana dalam bisnis dan mudah untuk mengetahui alasannya. AI generatif telah memberikan manfaat terukur dalam hal produktivitas, efisiensi, dan kecepatan.
Namun, saat kita memasuki tahun 2026, ada jenis AI baru yang menjadi fokus perhatian bisnis dan keamanan: AI Agen. Dan AI agen akan memberikan transformasi yang jauh lebih dalam.
Arsitek Konsultasi Utama XDR untuk EMEA di Barracuda Networks.
Agentic AI adalah kecerdasan adaptif, otomatis, dan independen, yang mampu menetapkan tujuan, membuat keputusan secara real-time, dan kemudian menyesuaikan perilakunya. Agen AI berfungsi sebagai operator digital, berkumpul databelajar dari lingkungannya dan melaksanakan tugas-tugas kompleks dengan masukan manusia yang minimal.
Kemampuan-kemampuan ini sama menariknya bagi para penyerang siber dan juga bagi para pembela HAM.
Lanskap ancaman baru
Agen AI dapat digunakan oleh penyerang siber untuk menjalankan keseluruhan kampanye secara menyeluruh. Operator AI yang jahat akan melakukan pengintaian, mengumpulkan data yang diperlukan, merancang umpan yang sangat meyakinkan, menguji jalur intrusi, mengamati bagaimana pertahanan bereaksi, kemudian menyesuaikan taktik dan waktunya secara real time.
Ditambah dengan platform kriminal khusus, ia akan menganalisis data dalam jumlah besar untuk secara otomatis mengidentifikasi kerentanan untuk dieksploitasi, sekaligus menghasilkan polimorfik. perangkat lunak perusak mampu menulis ulang kodenya sendiri untuk menghindari deteksi berbasis tanda tangan dan perilaku.
Alat-alat canggih ini akan terasa seperti otak terkoordinasi yang merangkai langkah-langkah, belajar dari setiap rintangan, dan menyatu dalam aktivitas normal.
Ancaman dunia maya juga akan menargetkan agen AI jinak yang digunakan oleh organisasi.
Misalnya, agen AI dirancang untuk bekerja sama mencapai tujuan tertentu, dengan sedikit atau tanpa pengawasan manusia. Ada kemungkinan bagi penyerang untuk membajak atau meracuni interaksi agen-ke-agen tersebut, dengan penyerang mengendalikan apa yang dilakukan rantai agen selanjutnya.
Kurangnya manusia dalam lingkaran ini dapat menunda deteksi dan mitigasi.
Dengan kata lain, dengan munculnya AI agen, para pembela HAM harus mengantisipasi jenis serangan dan taktik baru yang tidak seperti yang pernah mereka lihat sebelumnya dan mungkin sulit untuk dijelaskan setelah kejadian tersebut terjadi. Permukaan serangan terus meluas, menciptakan kesenjangan yang diketahui dan tidak diketahui, dan eksploitasi zero-day akan meningkat.
Lanskap bisnis baru
Di dalam organisasi, AI agen dapat mendorong peningkatan produktivitas dan pengambilan keputusan. Bekerja sebagai asisten cerdas atau anggota tim semi-otonom, agen AI dapat mengelola tugas administratif yang berulang, mengawasi alur kerja, dan memberikan wawasan waktu nyata dari kumpulan data yang sangat besar.
Agen dapat merencanakan, bereksperimen, dan merevisi pendekatannya berdasarkan umpan balik, menjadikannya sangat serbaguna dan efektif. Di dalam keamanan siberAI agen dapat menangani pembaruan perangkat lunak, memantau kesehatan jaringan, dan mengoordinasikan respons insiden dalam operasi TI, atau secara mandiri melacak transaksi untuk mencari anomali di bidang keuangan guna mengurangi risiko penipuan.
Diintegrasikan ke dalam pusat operasi keamanan (SOC), agen AI akan dapat mengambil alih sebagian besar tugas administratif dan manajemen sistem keamanan, sehingga menghemat waktu untuk perburuan ancaman, penelitian, dan rekayasa deteksi.
Hal ini akan memudahkan analis keamanan untuk menangkap serangan canggih sekaligus mengurangi kelelahan kewaspadaan dan kesalahan positif – membangun lingkungan yang lebih aman dan berketahanan siber.
Kebutuhan pertahanan baru
Penting bagi organisasi untuk memiliki langkah-langkah keamanan khusus untuk alat berbasis AI agen. Mekanisme pertahanan tradisional, seperti tanda tangan statis dan aturan firewall mungkin kesulitan mengimbangi kecepatan dan kemampuan beradaptasi dari ancaman yang didorong oleh AI. Keamanan sistem perlu berevolusi sebagai hal yang mendesak.
Daftar langkah-langkah keamanan baru atau yang ditingkatkan berikut ini mungkin merupakan awal yang baik:
- Menerapkan pertahanan AI berbasis perilaku: Gunakan alat deteksi bertenaga AI yang mempelajari pola perilaku normal dan mengidentifikasi anomali secara real-time. Sesuaikan dan terus sempurnakan solusi ini.
- Bangun keamanan di sekitar platform terpadu dengan visibilitas menyeluruh: Integrasikan keamanan lintas identitas, titik akhirSaaS, cloud, email, dan lalu lintas jaringan untuk pemantauan komprehensif dan deteksi ancaman dengan cepat.
- Terus beri tahu manusia: Memastikan manusia tetap terlibat dalam pengambilan keputusan penting, penyelidikan, dan respons. AI harus mendukung, bukan menggantikan, para profesional yang terampil.
- Memperkuat kontrol untuk AI: Perlakukan setiap agen AI sebagai entitas individual dengan identitas dan hak aksesnya sendiri. Terapkan prinsip zero-trust pada agen AI dan wajibkan verifikasi untuk setiap tindakan.
- Komunikasi aman yang dipimpin agen: Mengautentikasi, mengenkripsi, dan mencatat semua interaksi antara agen dan pengguna untuk mendeteksi dan mencegah serangan gangguan atau keracunan.
- Mengembangkan generasi pemimpin bisnis berikutnya: Membekali manajer dengan keterampilan dalam manajemen AI, analisis data, dan pemrosesan bahasa alami untuk memastikan integrasi agen AI yang bertanggung jawab.
- Selaras dengan standar peraturan: Ikuti kerangka kerja seperti Kerangka Manajemen Risiko NIST AI untuk kepatuhan dan mitigasi risiko yang kuat.
Kesimpulan
Seiring dengan semakin matangnya AI agen, perubahan nyata tidak hanya akan terjadi lebih cepat otomatisasi namun sebuah dunia di mana agen digital diam-diam bernegosiasi, berkolaborasi, dan bahkan bersaing atas nama kita.
Kita bergerak menuju ekosistem di mana keputusan manusia semakin banyak dibentuk oleh percakapan antar mesin yang tidak pernah kita lihat, termasuk agen keamanan, agen penipuan, agen produktivitas, dan bahkan agen jahat.
AI bukan lagi konsep masa depan; hal ini sudah terjadi, dan kita perlu menyambut era ini dengan penuh pertimbangan daripada berpura-pura tidak ikut serta.
Saya semakin khawatir terhadap organisasi yang tidak mulai menggunakan AI untuk melindungi diri mereka sendiri: jika penyerang mengadopsi AI agen sementara pembela HAM tetap menggunakan AI secara manual, kesenjangan tersebut akan berkembang menjadi kerugian yang sistemik.
Masa depan keamanan siber akan ditentukan oleh seberapa baik kita memahami, mengatur, dan menyelaraskan interaksi AI-ke-AI yang tidak terlihat ini dengan nilai-nilai kemanusiaan, bukan hanya seberapa cepat kita memblokir ancaman berikutnya.
Kami telah menampilkan perangkat lunak enkripsi terbaik.
Artikel ini dibuat sebagai bagian dari saluran Expert Insights TechRadarPro tempat kami menampilkan para pemikir terbaik dan tercemerlang di industri teknologi saat ini. Pandangan yang diungkapkan di sini adalah milik penulis dan belum tentu milik TechRadarPro atau Future plc. Jika Anda tertarik untuk berkontribusi, cari tahu lebih lanjut di sini: https://www.techradar.com/news/submit-your-story-to-techradar-pro
