- Agen AI menimbulkan risiko orang dalam karena akses yang tidak diawasi dan kurangnya kontrol visibilitas, klaim laporan
- 66% peristiwa hilangnya data besar disebabkan oleh kecerobohan karyawan atau kontraktor pihak ketiga
- Proofpoint mendesak keamanan adaptif yang sadar perilaku untuk melindungi aktivitas manusia dan AI
Ketika dunia usaha terburu-buru menerapkan Kecerdasan Buatan Generatif (Generative Artificial Intelligence/AI) dan Agen AI, mereka dihadapkan pada masalah yang sama ketika mencoba menerapkan teknologi baru dengan cepat: risiko kebocoran, kebocoran, dan pelanggaran data.
Laporan Proofpoint baru berpendapat bahwa “ruang kerja agen” adalah kelompok risiko orang dalam yang baru, yang tingkat keparahannya bahkan menyaingi kesalahan manusia. Dua dari lima organisasi responden mengatakan kehilangan data melalui alat GenAI publik atau perusahaan merupakan kekhawatiran utama, sementara lebih dari sepertiga mengatakan mereka khawatir mengenai data sensitif yang digunakan dalam pelatihan AI.
Laporan tersebut lebih lanjut menjelaskan bahwa agen AI sering kali beroperasi sebagai pengguna super yang memiliki hak istimewa, yang hanya memperburuk keadaan. Lebih dari sepertiga (38%) menandai akses data tanpa pengawasan yang dilakukan oleh Agen AI sebagai “ancaman kritis”, dan 54% mengatakan mereka tidak memiliki visibilitas dan kontrol yang memadai terhadap Gen. alat AI – jadi dengan kata lain, agen AI dibiarkan sendiri, dan ini menimbulkan masalah.
Menguji batasnya
“Kita telah memasuki era baru keamanan data di mana ancaman dari dalam, pertumbuhan data yang tiada henti, dan perubahan yang didorong oleh AI menguji batas-batas pertahanan tradisional,” kata Ryan Kalember, chief strategy officer, Proofpoint.
“Alat yang terfragmentasi dan visibilitas yang terbatas membuat organisasi terpapar. Masa depan perlindungan data bergantung pada solusi terpadu yang didukung AI yang memahami konten dan konteks, beradaptasi secara real-time, dan mengamankan informasi di seluruh aktivitas manusia dan agen.”
Meskipun AI menjadi sebuah permasalahan, manusia tetap menjadi mata rantai terlemah dalam rantai keamanan siber ini. Dua pertiga (66%) organisasi mengaitkan kejadian kehilangan data paling signifikan yang mereka alami dengan “karyawan yang ceroboh” dan kontraktor pihak ketiga, sementara 31% menyebutkan pengguna yang disusupi. Sepertiga (33%) menunjuk pada orang dalam yang jahat.
Untuk memitigasi ancaman baik dari manusia maupun agen AI, Proofpoint menyarankan untuk beralih ke keamanan siber dan analisis perilaku: “hanya 1% pengguna bertanggung jawab atas 76% peristiwa kehilangan data, sehingga menekankan pentingnya strategi keamanan adaptif yang sadar perilaku,” katanya.
Rupanya, dua pertiga (65%) telah menerapkan kemampuan keamanan data yang ditingkatkan dengan AI.
Antivirus terbaik untuk semua anggaran
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
