Organisasi di setiap industri telah berinvestasi pada AI agen untuk membuka peluangnya produktivitas dan keuntungan efisiensi. Faktanya, studi PWC baru-baru ini menemukan bahwa 79% bisnis menggunakan agen AI setidaknya di satu fungsi bisnis.
Retakan pada pondasi
Agentic AI beroperasi dengan menciptakan agen yang mengumpulkan informasi tentang lingkungannya. Agen ini mengandalkan Antarmuka Pemrograman Aplikasi (API) untuk mengakses data dan mengambil keputusan.
Masalahnya adalah, ketika organisasi semakin mempercepat ambisi AI mereka, jumlah koneksi pun meroket. Jika tidak dikelola dengan hati-hati, setiap koneksi baru akan menciptakan potensi keamanan titik buta.
Hal ini membawa risiko yang signifikan, karena API telah menjadi pintu masuk utama serangan siber, yang menyebabkan lebih dari 40.000 insiden keamanan hanya dalam enam bulan pada tahun lalu.
Ketika kontrol keamanan API gagal, konsekuensinya dapat terjadi secara langsung dan meluas. Penyerang dapat mengeksploitasi titik akhir API yang terekspos untuk mengakses jutaan catatan pengguna, yang kemudian diperdagangkan dan digunakan kembali di seluruh ekosistem penjahat dunia maya, sehingga menyoroti dampak buruk ketika langkah-langkah keamanan API yang kuat tidak diterapkan.
Anda tidak dapat mengamankan apa yang tidak dapat Anda lihat
Meskipun AI agen menawarkan peningkatan produktivitas yang signifikan, hal ini juga memperkuat risiko keamanan API yang ada. Penerapan AI agen tanpa tata kelola dan pengawasan terpusat akan menghasilkan ‘AI Bayangan’, sehingga menciptakan titik buta tambahan.
Kurangnya visibilitas dan kontrol dengan cepat mengakibatkan insiden keamanan, karena agen otonom dapat menggunakan API untuk mengakses data yang berpotensi sensitif dan menjalankan alur kerja tanpa pengawasan manusia. Misalnya saja agen AI yang menangani pelanggan permintaan dapat dibagikan secara tidak sengaja SDM atau data keuangan secara eksternal jika aksesnya tidak dibatasi dengan benar.
Konsekuensi apa pun yang tidak diinginkan bisa menjadi tidak terkendali jauh lebih cepat daripada respons manusia, sehingga membuat tim keamanan kesulitan mengambil tindakan.
Sayangnya, insiden AI bayangan menjadi semakin umum, karena laporan terbaru mengungkapkan 71% karyawan di Inggris telah menggunakan alat AI yang tidak disetujui konsumen, seperti chatbot asisten, di tempat kerja.
Selain shadow AI, infrastruktur yang diandalkan agen juga dapat menciptakan kesenjangan keamanan. ‘API Zombie’; koneksi yang seharusnya dinonaktifkan tetapi masih tersedia dan tidak dipelihara secara aktif, dapat dieksploitasi oleh penjahat dunia maya melalui agen AI.
Penyerang dapat menyebarkan masukan berbahaya ke agen dalam bentuk perintah yang dapat menginfeksi sistem. Seiring berkembangnya bisnis dan perubahan kumpulan data, agen tidak berdokumen juga dapat mengungkap informasi sensitif dan memperluas permukaan serangan tanpa ada yang menyadarinya, sehingga menjadikan mereka target utama.
Menutup pintu belakang
Untuk memastikan agen AI penerapannya tidak memperburuk risiko keamanan, perusahaan memerlukan kebijakan yang kuat dan landasan teknologi yang kokoh. Inti dari hal ini adalah sentralisasi data hub yang bertindak sebagai satu-satunya sumber kebenaran.
Hal ini memberikan agen AI akses mudah ke data yang disetujui dan sering digunakan, sekaligus mengurangi risiko mereka terhubung ke informasi sensitif atau belum diperiksa.
Agen AI sendiri harus dikelola seperti halnya karyawan manusia: hanya diberikan akses terhadap informasi yang mereka perlukan untuk menjalankan peran mereka, dikelola dengan baik, dan diajarkan kebijakan bisnis. Mereka juga memerlukan tinjauan dan pemeriksaan rutin, hampir seperti fungsi SDM, untuk memastikan mereka terus beroperasi dengan aman dan etis.
Platform manajemen AI terpusat memberi organisasi visibilitas dan kontrol atas semua agen sepanjang siklus hidup mereka, mengurangi risiko API ‘zombie’ dan menjaga kemampuan audit penuh.
Hal ini sangat penting karena peraturan yang semakin ketat, yang mengharuskan perusahaan untuk menunjukkan jejak lengkap penerapan AI agen, hingga ke setiap kumpulan data yang diakses agen untuk menyelesaikan suatu tugas.
Dengan tata kelola yang kuat dan pengawasan yang jelas terhadap penerapan AI agen, perusahaan dapat meningkatkan ambisi mereka dengan aman dan memanfaatkan peningkatan produktivitas.
Mempersiapkan masa depan agen
Seiring dengan semakin banyaknya agen yang dikerahkan di seluruh bisnis, keamanan API, dan AI pengelolaan tidak pernah lebih kritis. Tanpa tata kelola dan pengawasan yang kuat, sistem otonom dapat menimbulkan risiko keamanan dengan kecepatan dan skala yang lebih cepat dibandingkan kemampuan organisasi.
Namun, dengan praktik keamanan yang kuat, organisasi dapat mengurangi risiko ini dan mewujudkan janji hiper-produktivitas AI. Mereka yang melakukan hal ini akan berada pada posisi terbaik untuk memanfaatkan potensi transformatif dari teknologi yang berkembang pesat ini, dan beralih dari penggunaan sederhana menjadi sesuatu yang revolusioner.
Kami telah menampilkan kursus keamanan siber online terbaik.
Artikel ini dibuat sebagai bagian dari saluran Expert Insights TechRadarPro tempat kami menampilkan para pemikir terbaik dan tercemerlang di industri teknologi saat ini. Pandangan yang diungkapkan di sini adalah milik penulis dan belum tentu milik TechRadarPro atau Future plc. Jika Anda tertarik untuk berkontribusi, cari tahu lebih lanjut di sini: https://www.techradar.com/news/submit-your-story-to-techradar-pro
