- Tenable mengatakan mereka menemukan tujuh kelemahan injeksi cepat di ChatGPT-4o, yang dijuluki rantai serangan “HackedGPT”
- Kerentanan mencakup perintah tersembunyi, persistensi memori, dan bypass keamanan melalui pembungkus tepercaya
- OpenAI memperbaiki beberapa masalah di GPT-5; yang lainnya masih tersisa, sehingga mendorong seruan untuk pertahanan yang lebih kuat
ChatGPT memiliki banyak masalah keamanan yang memungkinkan pelaku ancaman memasukkan perintah tersembunyi, mencuri data sensitif, dan menyebarkan informasi yang salah ke dalam alat AIkata peneliti keamanan.
Baru-baru ini, pakar keamanan dari Tenable menguji ChatGPT-4o OpenAI dan menemukan tujuh kerentanan yang secara kolektif mereka namakan HackedGPT. Ini termasuk:
- Injeksi cepat tidak langsung melalui situs tepercaya (menyembunyikan perintah di dalam situs publik yang tanpa disadari dapat diikuti oleh GPT saat membaca konten)
- Injeksi prompt tidak langsung 0-klik dalam konteks penelusuran (GPT menelusuri web dan menemukan laman dengan kode berbahaya tersembunyi. Mengajukan pertanyaan tanpa disadari dapat memaksa GPT untuk mengikuti petunjuk)
- Injeksi cepat melalui 1-klik (Sebuah twist pada phishing di mana pengguna mengklik link dengan perintah GPT tersembunyi)
- Bypass mekanisme keamanan (membungkus tautan berbahaya dalam pembungkus tepercaya, mengelabui GPT agar menampilkan tautan tersebut kepada pengguna)
- Injeksi percakapan: (Penyerang dapat menggunakan sistem SearchGPT untuk memasukkan instruksi tersembunyi yang kemudian dibaca oleh ChatGPT, sehingga secara efektif melakukan injeksi sendiri).
- Penyembunyian konten berbahaya (instruksi berbahaya dapat disembunyikan di dalam kode atau teks penurunan harga)
- Injeksi memori persisten (instruksi berbahaya dapat ditempatkan di obrolan tersimpan, menyebabkan model mengulangi perintah dan terus menerus membocorkan data).
Panggilan untuk memperkuat pertahanan
OpenAI, perusahaan di balik ChatGPT, telah mengatasi beberapa kelemahan dalam model GPT-5, namun tidak semuanya, sehingga berpotensi menimbulkan risiko bagi jutaan orang.
Peneliti keamanan telah memperingatkan tentang serangan injeksi cepat selama beberapa waktu sekarang.
GoogleGemini tampaknya rentan terhadap masalah serupa, karena terintegrasi dengan Gmail, karena pengguna dapat menerima email dengan perintah tersembunyi (misalnya, diketik dengan font putih dengan latar belakang putih) dan jika pengguna meminta alat untuk melakukan apa pun terkait email tersebut, ia dapat membaca dan bertindak berdasarkan perintah tersembunyi tersebut.
Meskipun dalam beberapa kasus, pengembang alat dapat memasang pagar pembatas, seringkali pengguna harus waspada dan tidak tertipu oleh trik ini.
“HackedGPT mengungkap kelemahan mendasar dalam cara model bahasa besar menilai informasi apa yang dapat dipercaya,” kata Moshe Bernstein, Senior Research Engineer di Tenable.
“Secara individual, kelemahan-kelemahan ini tampak kecil – namun jika digabungkan, mereka membentuk rantai serangan yang lengkap, mulai dari injeksi dan penghindaran hingga pencurian dan persistensi data. Hal ini menunjukkan bahwa sistem AI bukan hanya target potensial; mereka dapat diubah menjadi alat serangan yang secara diam-diam mengumpulkan informasi dari obrolan atau penjelajahan sehari-hari.”
Tenable mengatakan OpenAI memperbaiki “beberapa kerentanan yang teridentifikasi”, menambahkan bahwa “beberapa” tetap aktif di ChatGPT-5, tanpa menyebutkan yang mana. Oleh karena itu, perusahaan menyarankan vendor AI untuk memperkuat pertahanan terhadap injeksi cepat dengan memverifikasi bahwa mekanisme keselamatan berfungsi sebagaimana mestinya.
Antivirus terbaik untuk semua anggaran
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
