- Mitra Uji Pena menemukan kelemahan pada chatbot AI Eurostar, termasuk lemahnya validasi dan injeksi HTML
- Eurostar mengatakan data pelanggan tidak pernah dalam bahaya; kerentanan telah dimitigasi
- Palo Alto memperingatkan adopsi AI yang cepat memperluas permukaan serangan cloud melalui kesalahan konfigurasi dan identitas non-manusia
Dukungan pelanggan bertenaga AI yang baru-baru ini diperkenalkan oleh Eurostar bot obrolan dirusak oleh kerentanan keamanan siber yang membuka pintu terhadap banyak potensi risiko, para ahli telah memperingatkan.
Peneliti di Pen Test Partners telah menemukan chatbot hanya memvalidasi dengan benar pesan terbaru dalam percakapan, yang berarti pesan lama dapat diubah untuk memuat pesan berbahaya. Perintah tersebut bisa berupa apa saja, mulai dari mengungkapkan informasi sistem, hingga (mungkin) mengambil data sensitif pelanggan.
Untungnya, Eurostar tidak menghubungkan database informasi pelanggannya dengan chatbot, sehingga pada saat ditemukan, tidak ada risiko langsung terjadinya kebocoran data.
“Pelanggan tidak pernah menghadapi risiko”
Para ahli juga menemukan ada kelemahan lain dalam sistem, termasuk ID percakapan dan pesan yang tidak diverifikasi dengan benar, atau kelemahan injeksi HTML yang memungkinkan JavaScript dijalankan langsung di jendela obrolan.
Mitra Uji Pena tampaknya menjadi pihak pertama yang menemukan kerentanan ini: “Tidak ada upaya yang dilakukan untuk mengakses percakapan atau data pribadi pengguna lain”, jelas para peneliti. “Tetapi kelemahan desain yang sama bisa menjadi jauh lebih serius seiring dengan berkembangnya fungsi chatbot”.
Eurostar menekankan bahwa data pelanggan tidak pernah dalam bahaya Kota AM: “Chatbot tidak memiliki akses ke sistem lain dan yang lebih penting tidak ada data sensitif pelanggan yang berisiko. Semua data dilindungi oleh login pelanggan.”
Banyak bisnis yang bergegas untuk menerapkannya alat AINamun, adopsi perusahaan yang pesat secara signifikan memperluas permukaan serangan cloud dan menempatkan bisnis pada risiko yang lebih besar dibandingkan sebelumnya.
Antivirus terbaik untuk semua anggaran
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
