- Google telah menarik model AI Gemma yang berfokus pada pengembang dari AI Studio
- Langkah ini dilakukan setelah Senator Marsha Blackburn mengeluhkan tuduhan palsu terhadapnya melakukan tindakan kriminal
- Insiden ini menyoroti masalah halusinasi AI dan kebingungan masyarakat
Google telah menarik model AI Gemma yang berfokus pada pengembang dari platform AI Studio setelah adanya tuduhan dari Senator AS Marsha Blackburn (R-TN) bahwa model tersebut mengarang tuduhan kriminal terhadap dirinya. Meski hanya disebutkan secara tidak langsung dalam pengumuman Google, perusahaan menjelaskan bahwa Gemma tidak pernah dimaksudkan untuk menjawab pertanyaan umum dari masyarakat, namun setelah adanya laporan penyalahgunaan, Gemma tidak lagi dapat diakses melalui AI Studio.
Blackburn menulis kepada CEO Google Sundar Pichai bahwa keluaran model tersebut lebih bersifat pencemaran nama baik daripada kesalahan sederhana. Dia mengklaim bahwa model AI menjawab pertanyaan, “Apakah Marsha Blackburn dituduh melakukan pemerkosaan?” dengan narasi yang rinci namun sepenuhnya salah tentang dugaan pelanggaran. Ia bahkan menunjuk pada artikel yang tidak ada dengan tautan palsu.
“Belum pernah ada tuduhan seperti itu, tidak ada individu seperti itu, dan tidak ada berita seperti itu,” kata Blackburn menulis. “Ini bukanlah ‘halusinasi’ yang tidak berbahaya. Ini adalah tindakan pencemaran nama baik yang dilakukan dan didistribusikan oleh model AI milik Google.” Dia juga mengangkat masalah ini dalam sidang Senat.
Gemma tersedia melalui API dan juga tersedia melalui AI Studio, yang merupakan alat pengembang (sebenarnya untuk menggunakannya Anda perlu membuktikan bahwa Anda adalah seorang pengembang). Kami sekarang telah melihat laporan dari non-pengembang yang mencoba menggunakan Gemma di AI Studio dan mengajukan pertanyaan faktual. Kami tidak pernah bermaksud melakukan ini…1 November 2025
Google berulang kali menjelaskan bahwa Gemma adalah alat yang dirancang untuk pengembang, bukan konsumen, dan tentunya bukan sebagai asisten pengecekan fakta. Sekarang, Gemma akan dibatasi hanya untuk penggunaan API saja, membatasinya pada aplikasi yang membangun saja. Tidak lebih chatbotantarmuka bergaya di Google Studio.
Sifat halusinasi yang aneh dan orang terkenal yang menghadapinya hanya menjadikan permasalahan mendasar tentang bagaimana model yang tidak dimaksudkan untuk percakapan diakses, dan betapa rumitnya halusinasi semacam ini. Gemma dipasarkan sebagai alternatif ringan yang “mengutamakan pengembang” untuk keluarga model Gemini yang lebih besar. Namun kegunaan dalam penelitian dan pembuatan prototipe tidak berarti memberikan jawaban yang benar atas pertanyaan fakta.
Berhalusinasi literasi AI
Namun seperti yang ditunjukkan oleh cerita ini, tidak ada model yang tidak terlihat jika model tersebut dapat diakses melalui alat yang dapat diakses oleh publik. Orang-orang bertemu Gemma dan memperlakukannya seperti Gemini atau ChatGPT. Sejauh persepsi sebagian besar masyarakat, batasan antara “model pengembang” dan “AI yang dapat diakses oleh publik” terlampaui saat Gemma mulai menjawab pertanyaan.
Bahkan AI yang dirancang untuk menjawab pertanyaan dan berbicara dengan pengguna dapat menghasilkan halusinasi, beberapa di antaranya sangat menyinggung atau mendetail. Beberapa tahun terakhir ini dipenuhi dengan contoh-contoh model yang mengada-ada dengan penuh percaya diri. Cerita mengenai kutipan resmi yang dibuat-buat dan tuduhan tidak benar mengenai siswa yang menyontek memberikan argumen kuat yang mendukung pembatasan AI yang lebih ketat dan pemisahan yang lebih jelas antara alat untuk eksperimen dan alat untuk komunikasi.
Bagi kebanyakan orang, implikasinya bukan pada tuntutan hukum, melainkan pada kepercayaan. Jika sistem AI dari raksasa teknologi seperti Google dapat melontarkan tuduhan terhadap seorang senator dan mendukung mereka dengan dokumentasi yang tidak ada, siapa pun dapat menghadapi situasi serupa.
Model AI adalah alat, tetapi alat yang paling mengesankan sekalipun akan gagal jika digunakan di luar desain yang dimaksudkan. Gemma tidak diciptakan untuk menjawab pertanyaan faktual. Itu tidak dilatih berdasarkan kumpulan data biografi yang dapat diandalkan. Itu tidak diberikan jenis alat pengambilan atau insentif akurasi yang digunakan di Gemini atau model yang didukung pencarian lainnya.
Namun sampai orang-orang lebih memahami nuansa model AI dan kemampuannya, mungkin ada baiknya bagi pengembang AI untuk berpikir seperti penerbit dan juga pembuat kode, dengan perlindungan terhadap kesalahan besar baik dalam praktik maupun dalam kode.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
Laptop bisnis terbaik untuk semua anggaran
