
AI Agentik dengan cepat muncul sebagai gangguan besar berikutnya dalam industri teknologi, yang mengubah AI dari sekedar chatbot menjadi pengambil keputusan yang otonom. Tidak seperti alat AI tradisional yang memerlukan dorongan terus-menerus, AI agen beroperasi dengan tingkat kemandirian, pembelajaran, penalaran, dan tindakan tertentu untuk mencapai tujuan tertentu.
Faktanya, pada tahun 2028, sepertiga aplikasi perusahaan akan mencakup AI agen, naik dari kurang dari 1% pada tahun 2024, dengan hingga 15% keputusan rutin di tempat kerja dibuat secara mandiri. Bagi para pemimpin perusahaan, hal ini mewakili perubahan besar dalam cara teknologi mendukung dan membentuk bisnis, khususnya di bidang keamanan siber.
Co-Founder dan Direktur Senior Manajemen Produk di HackerOne.
Memang benar, Agentic AI memiliki kapasitas untuk mengubah kemampuan tim dalam meningkatkan risiko paling kritis yang ada, memastikan pengiriman dokumen berkualitas lebih tinggi, dan menyaring duplikat sehingga tim dapat fokus pada hal-hal yang penting. Namun otonomi yang menjadikannya kuat juga menimbulkan risiko baru keamanan tim.
Para pemimpin perusahaan perlu memahami bagaimana Agentic AI dapat memperkuat pertahanan mereka dan kendala apa yang harus diperhatikan saat menerapkannya.
Apa yang membuat AI Agentik berbeda?
AI Agentik dibangun berdasarkan agen otonom, dengan sistem yang mampu berpikir, beradaptasi, dan mengambil tindakan independen. Ini merupakan penyimpangan dari keduanya yang konvensional otomatisasi dan bentuk AI sebelumnya. Model pembelajaran mesin tradisional sebagian besar menghasilkan keluaran berdasarkan perintah atau parameter tetap.
Sebaliknya, AI agen dapat beroperasi secara berulang, mengevaluasi konteks, merencanakan tindakan, beradaptasi ketika kondisi berubah, dan meningkat melalui pengalaman.
Industri keamanan siber kini beralih dari masa lalu di mana bot hanya menandai login yang mencurigakan dan menuju sistem terhubung yang menyelidiki secara mandiri, meningkatkan kerentanan prioritas, dan memberikan wawasan yang dapat ditindaklanjuti kepada pengguna.
Meningkatkan kemampuan keamanan siber
Agentic AI sangat cocok untuk beberapa tantangan keamanan yang paling mendesak:
Deteksi dan respons ancaman: Pusat operasi keamanan (SOC) sering kali dibanjiri dengan peringatan, banyak di antaranya memberikan peringatan palsu. Agentic AI dapat secara mandiri menyelidiki peringatan rutin dan hanya mengeskalasi peringatan yang memerlukan penilaian manusia.
Hal ini mengurangi “kelelahan kewaspadaan” dan memungkinkan analis untuk fokus pada insiden dengan prioritas tinggi. Dampaknya dapat mempersingkat waktu untuk mendeteksi masalah, memperpendek waktu yang dimiliki penyerang untuk mengeksploitasi kerentanan, sekaligus mengurangi waktu untuk melakukan remediasi.
Pengujian penetrasi: AI Agentik dapat mempercepat penemuan kerentanan dengan memindai permukaan serangan dan menemukan masalah umum dalam skala besar. Penguji manusia kemudian dibebaskan untuk fokus pada aspek pengujian yang kreatif dan berdampak tinggi yang tidak dapat ditiru oleh mesin. Hasilnya adalah cakupan yang lebih luas dan pengujian yang lebih sering dan hemat biaya.
Manajemen dan validasi kerentanan: Kebisingan dalam manajemen kerentanan berada pada titik tertinggi, sehingga membuat tim keamanan internal frustrasi. Memprioritaskan kerentanan mana yang harus diperbaiki dengan memvalidasi kerentanan yang nyata adalah tugas yang kompleks. Hal ini memerlukan konteks sejarah, bisnis analisis dampak dan keahlian teknis.
AI Agentik dapat melakukan sebagian besar pekerjaan dasar, seperti membuat standar laporan, membandingkan insiden masa lalu, dan merekomendasikan tindakan, sekaligus menjaga manusia tetap mengetahui prioritas dampak bisnis dalam pengambilan keputusan akhir.
Skalabilitas: Merekrut dan mempertahankan analis yang terampil itu sulit dan mahal. Dengan mengotomatiskan sebagian besar alur kerja keamanan, Agentic AI dapat menyatukan dan beradaptasi dengan berbagai alat masukan. Hal ini memungkinkan organisasi untuk membatasi kenaikan biaya, dan menjaga staf tetap fokus pada prioritas strategis yang memerlukan kecerdikan manusia.
Tentu saja, penggunaan AI agen untuk memperkuat keamanan siber hanyalah separuh dari upaya yang dilakukan. Keamanan AI agen itu sendiri juga harus dijadikan prioritas. Jika tidak, sistem yang dirancang untuk melindungi perusahaan dapat menjadi vektor serangan baru.
Risiko yang harus dikelola oleh para pemimpin perusahaan
Meskipun otonomi membawa keuntungan, otonomi juga memerlukan pengawasan yang cermat. Jika tidak dicentang, agenik AI dapat salah menilai, salah sasaran, atau dimanipulasi. Oleh karena itu, penting untuk memperhatikan bidang-bidang berikut:
Injeksi segera: Saat agen AI berinteraksi dengan eksternal data sumber, penyerang dapat menyematkan instruksi berbahaya yang dirancang untuk mengarahkan hasil. Suntikan cepat yang tampaknya sepele dalam a chatbot dapat menyebabkan kerusakan yang jauh lebih besar ketika agen otonom membuat keputusan keamanan.
Oleh karena itu, penting untuk terus memantau dan menerapkan pagar pembatas yang kuat.
Akses data dan privasi: Sistem AI unggul dalam memproses kumpulan data berukuran besar, sehingga menimbulkan risiko jika kontrol akses lemah. Akibatnya, informasi sensitif yang terkubur dalam repositori yang terabaikan dapat terekspos secara tidak sengaja. Organisasi harus memiliki tata kelola data yang kuat dan kontrol yang ketat terhadap kumpulan data pelatihan dan operasional.
Pembobolan penjara: Bahkan dengan adanya pagar pembatas, pelaku ancaman dapat mencoba melakukan “jailbreak” pada sistem AI, meyakinkannya untuk mengabaikan pembatasan dan bertindak di luar cakupan yang dimaksudkan. Jika digabungkan dengan suntikan dana yang cepat, hal ini dapat menimbulkan akibat yang buruk, seperti transfer keuangan tanpa izin.
Untuk mengurangi risiko ini, organisasi harus menerapkan tim merah yang berkelanjutan untuk menguji sistem AI.
Merangkul AI agen
Karena adopsi AI diperkirakan akan tumbuh pada tingkat tahunan sebesar 36,6% antara tahun 2023 dan 2030, hal ini merupakan peluang sekaligus tantangan. Jika perusahaan tidak menerapkan AI agen, asimetri antara penyerang dan pembela akan melebar, terutama mengingat kurangnya keterampilan dalam bidang keamanan siber.
Dengan teknologi ini, tim keamanan dapat melipatgandakan kapasitas mereka, mengurangi waktu untuk merespons, dan beralih dari pemadaman kebakaran reaktif ke manajemen ancaman berkelanjutan.
Untuk mencapai keseimbangan, AI agen harus diterapkan dengan kerangka tata kelola yang jelas, pengawasan manusia pada tahap-tahap penting, dan fokus yang kuat pada keamanan data. Kolaborasi antara pengembang, profesional keamanan, dan pembuat kebijakan akan menjadi hal penting untuk memastikan sistem ini melayani kepentingan organisasi dan masyarakat luas.
Kami telah menampilkan pembuat situs web AI terbaik.
Artikel ini dibuat sebagai bagian dari saluran Expert Insights TechRadarPro tempat kami menampilkan para pemikir terbaik dan tercemerlang di industri teknologi saat ini. Pandangan yang diungkapkan di sini adalah milik penulis dan belum tentu milik TechRadarPro atau Future plc. Jika Anda tertarik untuk berkontribusi, cari tahu lebih lanjut di sini: https://www.techradar.com/news/submit-your-story-to-techradar-pro



