Hanya tiga tahun sejak ChatGPT diluncurkan dan mendapatkan pengakuan populer yang besar. Namun saat ini, industri sudah menantikan gelombang inovasi besar berikutnya: agenik AI.
Sesuai dengan bentuknya, OpenAI kembali menjadi yang terdepan dengan penawaran agen ChatGPT barunya, yang menjanjikan “untuk menangani tugas dari awal hingga akhir” atas nama penggunanya. Sayangnya, dengan otonomi yang lebih besar, risikonya pun semakin besar.
Peneliti Ancaman Senior di Trend Micro.
Tantangan bagi TI perusahaan dan keamanan tim akan memberdayakan penggunanya untuk memanfaatkan teknologi, tanpa membuat bisnis terkena ancaman baru.
Untungnya, mereka sudah mempunyai pendekatan siap pakai untuk membantu mereka melakukan hal tersebut: Zero Trust.
Keuntungan besar namun risiko muncul
Sistem AI Agentik menawarkan lompatan besar dari AI generatif (GenAI) chatbot.
Sementara yang terakhir membuat dan meringkas konten secara reaktif berdasarkan petunjuk, yang pertama dirancang untuk secara proaktif merencanakan, menalar, dan bertindak secara mandiri untuk menyelesaikan tugas-tugas multi-tahap yang kompleks. Agentic AI bahkan dapat menyesuaikan rencananya dengan cepat ketika disajikan dengan informasi baru.
Tidak sulit untuk melihat potensi besarnya produktivitas, efisiensi, dan manfaat biaya yang terkait dengan teknologi ini. Gartner memperkirakan bahwa pada tahun 2029, mereka akan “secara mandiri menyelesaikan 80% masalah umum layanan pelanggan tanpa campur tangan manusia, sehingga mengurangi biaya operasional sebesar 30%.
Namun, kemampuan yang sama itulah yang membuat AI agen begitu menarik bisnis juga harus menjadi perhatian.
Karena pengawasan yang lebih sedikit, pelaku kejahatan dapat menyerang dan menumbangkan tindakan agen AI tanpa menimbulkan tanda bahaya bagi pengguna.
Karena ia mampu mengambil keputusan dengan konsekuensi yang tidak dapat diubah, seperti menghapus file atau mengirim email ke penerima yang salah, kerugian yang lebih besar dapat terjadi kecuali ada perlindungan yang diterapkan.
Selain itu, karena agen dapat merencanakan dan mempertimbangkan berbagai domain, terdapat lebih banyak peluang bagi musuh untuk memanipulasinya, seperti melalui injeksi cepat tidak langsung. Hal ini dapat dilakukan hanya dengan menyematkan perintah berbahaya di halaman web yang dikunjungi agen.
Karena agen terintegrasi secara mendalam ke dalam ekosistem digital yang lebih luas, terdapat lebih banyak potensi pelanggaran yang sangat sensitif akun dan informasi. Dan karena mereka dapat memperoleh pengetahuan mendalam tentang perilaku penggunanya, maka terdapat potensi risiko privasi yang signifikan.
Mengapa kontrol akses penting
Mengatasi tantangan-tantangan ini perlu dimulai dengan identitas dan akses pengelolaan (SAYA). Jika organisasi ingin menciptakan tenaga kerja digital de facto yang terdiri dari agen, mereka perlu mengelola identitas, kredensial, dan izin yang diperlukan untuk melakukan pekerjaan tersebut.
Namun sebagian besar agen saat ini lebih bersifat generalis daripada spesialis. Agen ChatGPT adalah contoh yang bagus: agen ini dapat menjadwalkan rapat, mengirim email, berinteraksi dengan situs web, dan banyak lagi.
Fleksibilitas inilah yang menjadikannya alat yang ampuh. Namun hal ini juga mempersulit penerapan model kontrol akses tradisional, yang dibangun berdasarkan peran manusia dengan tanggung jawab yang jelas.
Jika agen generalis dimanipulasi melalui serangan injeksi cepat tidak langsung, hak aksesnya yang terlalu permisif bisa menjadi kelemahan, sehingga memberikan penyerang potensi akses luas ke berbagai sistem sensitif. Itu sebabnya kita perlu memikirkan kembali kontrol akses untuk era AI agen. Singkatnya, kita perlu mengikuti mantra Zero Trust: “jangan pernah percaya, selalu verifikasi”.
Zero Trust ditata ulang
Bagaimana tampilan Zero Trust dalam lingkungan AI agen? Pertama, asumsikan agen akan melakukan tindakan yang tidak diinginkan dan sulit diprediksi—sesuatu yang bahkan diakui oleh OpenAI. Dan berhenti menganggap agen AI sebagai perpanjangan dari akun pengguna yang sudah ada. Sebaliknya, perlakukan mereka sebagai identitas terpisah, dengan kredensial dan izin mereka sendiri.
Manajemen akses harus ditegakkan baik di tingkat agen maupun di tingkat alat—yaitu mengatur sumber daya mana yang dapat diakses oleh agen. Kontrol yang lebih mendetail seperti ini akan memastikan izin tetap selaras dengan setiap tugas.
Anggap saja sebagai “segmentasi”, meskipun tidak dalam pengertian segmentasi jaringan Zero Trust tradisional
Sebaliknya, di sini kami berupaya membatasi izin agen sehingga mereka hanya dapat mengakses sistem dan data yang mereka perlukan untuk melakukan tugasnya, dan tidak lebih. Dalam beberapa situasi, mungkin berguna juga untuk menerapkan izin terikat waktu.
Selanjutnya, multifaktor otentikasi (MFA). Sayangnya, MFA tradisional tidak dapat diterapkan dengan baik kepada agen. Jika agen disusupi, meminta faktor kedua akan menambah sedikit keamanan.
Sebaliknya, pengawasan manusia dapat berfungsi sebagai verifikasi lapis kedua, terutama untuk tindakan berisiko tinggi. Hal ini harus diseimbangkan dengan risiko kelelahan persetujuan: jika agen memicu terlalu banyak konfirmasi, pengguna mungkin mulai menyetujui tindakan secara refleks.
Organisasi juga memerlukan visibilitas terhadap apa yang dilakukan agen. Jadi buatlah semacam sistem untuk mencatat tindakan mereka dan memantau perilaku yang tidak biasa. Hal ini juga mencerminkan elemen kunci Zero Trust dan penting untuk keamanan dan akuntabilitas. Ini masih tahap awal bagi Agentic AI.
Namun jika organisasi ingin memanfaatkan kemampuan teknologi untuk mengambil tindakan dengan pengawasan minimal, mereka harus yakin bahwa risiko dikelola dengan tepat. Cara terbaik untuk melakukannya adalah dengan tidak pernah mempercayai apa pun secara default.
Kami telah menampilkan kursus keamanan siber online terbaik.
Artikel ini dibuat sebagai bagian dari saluran Expert Insights TechRadarPro tempat kami menampilkan para pemikir terbaik dan tercemerlang di industri teknologi saat ini. Pandangan yang diungkapkan di sini adalah milik penulis dan belum tentu milik TechRadarPro atau Future plc. Jika Anda tertarik untuk berkontribusi, cari tahu lebih lanjut di sini: https://www.techradar.com/news/submit-your-story-to-techradar-pro
