- OpenAI mengatakan serangan injeksi cepat tidak dapat sepenuhnya dihilangkan, hanya dapat dimitigasi
- Perintah berbahaya yang tersembunyi di situs web dapat mengelabui browser AI agar mengambil data atau memasang malware
- Putaran respons cepat OpenAI menggunakan pelatihan permusuhan dan penemuan otomatis untuk memperkuat pertahanan
OpenAI telah mengklaim hal itu sebagai AI browser mungkin tidak akan pernah terlindung sepenuhnya dari serangan injeksi langsung, namun hal ini tidak berarti industri harus menyerah begitu saja atau mengakui kekalahan dari para penipu – ada cara untuk memperkuat produk tersebut.
Perusahaan menerbitkan yang baru postingan blog membahas risiko keamanan siber di dalamnya Browser bertenaga AI, Atlasyang memiliki pandangan yang agak suram.
“Injeksi yang cepat, seperti penipuan dan rekayasa sosial di web, sepertinya tidak akan pernah ‘terselesaikan’ sepenuhnya,” tulis blog tersebut. “Tetapi kami optimis bahwa respons cepat yang proaktif dan sangat responsif dapat terus mengurangi risiko dunia nyata secara signifikan dari waktu ke waktu. Dengan menggabungkan penemuan serangan otomatis dengan pelatihan permusuhan dan perlindungan tingkat sistem, kami dapat mengidentifikasi pola serangan baru lebih awal, menutup kesenjangan lebih cepat, dan terus meningkatkan biaya eksploitasi.”
Lingkaran respons cepat
Jadi apa sebenarnya injeksi cepat itu, dan apa yang dimaksud dengan pendekatan “loop respons cepat”?
Injeksi segera adalah jenis serangan di mana perintah berbahaya “disuntikkan” ke agen AI korban tanpa sepengetahuan atau persetujuan mereka.
Misalnya, browser AI diperbolehkan membaca semua konten situs web. Jika situs web tersebut berbahaya (atau dibajak) dan berisi perintah tersembunyi (misalnya, huruf putih dengan latar belakang putih), AI mungkin akan mengambil tindakan tanpa pengguna menyadarinya.
Perintah tersebut dapat berupa berbagai hal, mulai dari mengeksfiltrasi file sensitif, hingga mengunduh dan menjalankan add-on browser berbahaya.
Tampaknya OpenAI ingin melawan api dengan api. Ini menciptakan sebuah bot, dilatih melalui pembelajaran yang diperkuat, dan membiarkan peretas mencari jalan masuk. Ini mengadu bot tersebut dengan pembela AI yang kemudian bolak-balik, mencoba mengecoh satu sama lain. Hasil akhirnya adalah pembela AI yang mampu mendeteksi sebagian besar teknik serangan.
Antivirus terbaik untuk semua anggaran
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
