Sebagian besar organisasi sekarang sudah familiar dengan konsep AI agen – sistem otonom yang memahami, membuat keputusan, dan mengambil tindakan untuk mencapai tujuan tertentu dalam suatu lingkungan.
Faktanya, saat ini 82% organisasi menggunakan agen AI, seringkali dalam berbagai jenis bisnis fungsi. Agen-agen ini bukan sekedar alat pasif: mereka adalah teknologi otonom yang bertindak, mengambil keputusan, dan beradaptasi dengan kecepatan dan skala yang mencengangkan.
Dan mereka semakin canggih dari waktu ke waktu, sering kali menangani tugas-tugas yang dulunya hanya dilakukan oleh pengawasan manusia yang terampil.
CEO dan Pendiri SailPoint.
Nilai bisnis agen AI tidak perlu dipersoalkan, namun potensi konsekuensi dari pelanggaran tersebut sensitif data bisa berakibat buruk, mulai dari mengakses sistem sensitif hingga berbagi data tanpa izin. Yang mengkhawatirkan, kurang dari empat dari sepuluh organisasi yang mengatur agen AI – meskipun penerapannya meningkat.
Realitas baru ini menuntut kita mengelola agen AI dengan tingkat pengawasan dan tata kelola yang sama seperti pengguna manusia. Mari kita lihat peran itu identitas keamanan dapat berperan dalam membantu organisasi memanfaatkan kecerdasan AI, tanpa mengabaikan keamanan atau kepatuhan.
Mengerem ‘mobil balap’ AI
Agen AI dapat beroperasi secara mandiri dan belajar, beradaptasi, dan berinteraksi dengan cara yang sulit diprediksi. Tanpa tata kelola yang kuat, hal ini dapat menimbulkan kerentanan serius bahkan pada lingkungan yang paling aman sekalipun.
Itu tidak berarti bisnis mereka tidak boleh memanfaatkan agen AI, namun mereka perlu menerapkan kontrol untuk menjaga ‘tenaga kerja digital’ baru mereka tetap terkendali. Anggap saja seperti rem pada mobil balap: rem tidak dimaksudkan untuk memperlambat Anda jika tidak perlu, namun untuk memberi Anda kendali yang diperlukan saat menavigasi jalur yang sulit dengan kecepatan tinggi.
Saat ini, banyak bisnis yang ‘mengemudikan mobil’ dengan kecepatan sangat tinggi, tanpa mengerem. Hasilnya? Agen AI semakin lepas kendali – dengan 80% organisasi melaporkan bahwa agen AI mereka telah melakukan tindakan tidak sah, termasuk mengakses dan berbagi informasi sensitif.
Meskipun sebagian besar pemimpin teknologi (92%) mengakui bahwa tata kelola agen AI sangat penting bagi perusahaan keamananhanya 44% yang telah menerapkan kebijakan terkait.
Selain masalah kepatuhan terhadap peraturan, hal ini juga menciptakan kerentanan yang memengaruhi seluruh rantai pasokan – termasuk karyawan, mitra, dan pelanggan yang memiliki akses sistem – yang mungkin menerima informasi yang tidak akurat atau, yang lebih berbahaya, mengekspos kredensial akses atau data lain yang berada di tangan pelaku kejahatan.
Melihat lebih dekat manajemen risiko untuk agen AI
Dengan 98% perusahaan berencana memperluas penerapan agen AI pada tahun depan, perusahaan akan semakin bergantung pada tenaga kerja digital yang diperluas ini selama dekade berikutnya.
Ledakan identitas non-manusia, ditambah dengan ancaman dunia maya yang semakin canggih, memerlukan alat yang memfasilitasi pendekatan yang lebih adaptif.
Di masa lalu, pendekatan keamanan ‘benteng dan parit’ sudah cukup. Tim SOC bertanggung jawab untuk memahami apa yang terjadi di sebuah titik akhir: tugas mereka hanyalah melindungi perimeter. Kini, kerentanan dapat dengan mudah meledak dari dalam bisnis itu sendiri, jika agen dibiarkan bergerak secara lateral dan bebas di dalam jaringan.
Untuk mencegah ‘ledakan identitas’, organisasi perlu melakukan pendekatan terhadap hak akses agen AI dengan cara yang sama seperti yang dilakukan manusia. Hal ini berarti mengatur mereka sesuai dengan perilaku dan risiko unik mereka.
Alat keamanan identitas generasi berikutnya dapat memungkinkan perusahaan untuk menerapkan kebijakan kontrol akses yang kontekstual, tepat, dan adaptif, di mana akses diberikan dengan sengaja jika diperlukan – dan dicabut secara agresif jika tidak diperlukan. Bayangkan seorang agen AI di sektor keuangan.
Ini dapat menangani seluruh proses awal pinjaman – mengumpulkan data keuangan, menganalisis riwayat kredit, menyiapkan persyaratan, memfasilitasi penjaminan, dan berkomunikasi dengan pemangku kepentingan.
Efisiensinya luar biasa, namun risikonya signifikan: tanpa kontrol yang tepat, agen yang sama dapat salah mengartikan data, menyetujui pinjaman berisiko tinggi, atau secara tidak sengaja mengekspos pelanggan informasi, memicu pelanggaran kepatuhan atau kerusakan reputasi.
Dunia usaha dapat menghindari risiko semacam ini dengan memastikan bahwa agen hanya dapat mengakses catatan atau informasi terpilih yang relevan dengan kasus tertentu. Melalui peran dan profil khusus, agen akan diberikan akses sementara ke catatan yang akan hilang setelah tugas selesai.
Untuk meminimalkan risiko, agen dapat dibiarkan tanpa hak istimewa sistem administratif – misalnya, akses ke log audit internal, dasbor eksekutif, atau laporan kepatuhan terhadap peraturan.
Pendekatan kontekstual dan adaptif terhadap identitas memastikan agen AI terus dipantau, dan hak akses mereka diperbarui seiring dengan berkembangnya peran, perilaku, dan profil risiko mereka.
Mengamankan tenaga kerja digital
Seiring dengan semakin intensifnya adopsi agen AI, para pemimpin bisnis mungkin akan sangat pusing jika mereka memperluas ‘tenaga kerja digital’ mereka sebelum sistem tersedia untuk melacak identitas non-manusia dengan aman.
Jelas bahwa pertanyaannya bukan lagi sekedar “siapa” yang dapat mengakses apa. Ini tentang “apa” yang terjadi di lingkungan Anda, “bagaimana” hal itu terjadi, dan “mengapa.” Tata kelola yang tepat berarti melacak akses setiap agen AI ke data sensitif, menetapkan kepemilikan yang jelas, dan menerapkan alur kerja persetujuan sebelum memberikan atau memperluas akses.
Pendekatan yang bersifat statis dan universal dalam mengakses kebijakan tidak lagi cukup. Pendekatan adaptif dan kontekstual terhadap keamanan identitas akan menjadi landasan bagi adopsi agen AI yang bertanggung jawab, aman, dan terukur.
Kami telah menampilkan perangkat lunak otomasi TI terbaik.
Artikel ini dibuat sebagai bagian dari saluran Expert Insights TechRadarPro tempat kami menampilkan para pemikir terbaik dan tercemerlang di industri teknologi saat ini. Pandangan yang diungkapkan di sini adalah milik penulis dan belum tentu milik TechRadarPro atau Future plc. Jika Anda tertarik untuk berkontribusi, cari tahu lebih lanjut di sini: https://www.techradar.com/news/submit-your-story-to-techradar-pro
