- Google memperkuat Chrome terhadap serangan injeksi cepat tidak langsung dengan pertahanan baru
- Fitur: Kritik Penyelarasan Pengguna & Set Asal Agen untuk tindakan agen yang lebih aman
- Agen sekarang mencatat aktivitas dan meminta persetujuan sebelum mengakses situs sensitif
Google menambahkan pertahanan baru pada browser Chrome, untuk memastikan kemampuan agennya tidak dapat disalahgunakan melalui injeksi cepat tidak langsung.
Injeksi prompt tidak langsung adalah jenis serangan di mana agen AI membaca konten pihak ketiga (misalnya email masuk) dan mengeksekusinya.
Contohnya adalah perintah untuk mengeksekusi transaksi kripto dari a peramban plugin dompet ditulis ke dalam email. Teksnya berwarna putih dan berukuran font 0, sehingga korban tidak dapat melihatnya, namun jika mereka menjalankan email melalui AI karena alasan apa pun, agen mungkin akan bertindak sesuai perintah.
Kumpulan Asal Agen dan Kritikus Penyelarasan Pengguna
Untuk memastikan hal ini tidak terjadi, Google kini memperkenalkan lapisan keamanan tambahan, termasuk Kritikus Penyelarasan Pengguna, dan Kumpulan Asal Agen. Kritik Penyelarasan Pengguna adalah fitur yang memantau tindakan agen di lingkungan yang terisolasi dari konten yang tidak tepercaya.
“Kritik Penyelarasan Pengguna berjalan setelah perencanaan selesai untuk memeriksa ulang setiap tindakan yang diusulkan,” jelas Google.
“Fokus utamanya adalah penyelarasan tugas: menentukan apakah tindakan yang diusulkan memenuhi tujuan yang ditetapkan pengguna. Jika tindakan tersebut tidak selaras, Kritikus Penyelarasan akan memvetonya. Komponen ini dirancang untuk hanya melihat metadata tentang tindakan yang diusulkan dan bukan konten web tidak dapat dipercaya yang tidak difilter, sehingga memastikan bahwa hal tersebut tidak dapat diracuni secara langsung dari web. Konteksnya lebih sedikit, tetapi juga memiliki pekerjaan yang lebih sederhana – cukup setujui atau tolak suatu tindakan.”
Sebaliknya, Kumpulan Asal Agen memastikan agen hanya dapat mengakses data dari asal yang terkait dengan tugas yang sedang dilakukannya, atau data yang dipilih pengguna untuk dibagikan dengan agen. “Ini mencegah agen yang disusupi untuk bertindak sewenang-wenang pada asal yang tidak terkait,” tambah Google. “Untuk setiap tugas di web, fungsi gerbang yang dapat dipercaya memutuskan asal mana yang diusulkan oleh perencana yang relevan dengan tugas tersebut. Desainnya adalah untuk memisahkan ini menjadi dua set, dilacak untuk setiap sesi.”
Terakhir, agen kini juga diizinkan membuat log kerja agar dapat diamati oleh pengguna dan akan meminta persetujuan eksplisit sebelum bernavigasi ke situs sensitif seperti perbankan atau portal layanan kesehatan.
Antivirus terbaik untuk semua anggaran
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
