- CEO Locai Labs mengatakan semua model AI saat ini dapat menghasilkan gambar yang berbahaya
- Locai Labs melarang pengguna di bawah 18 tahun dan pembuatan gambar sampai situasinya “benar-benar aman”
- Regulator Inggris Ofcom kini meluncurkan penyelidikan terhadap Grok Images
Ketika kontroversi seputar platform Grok AI milik Elon Musk dan kemampuannya untuk menciptakan citra seksual perempuan dan anak-anak terus berlanjut, James Drayson, CEO dari Lab Lokal – saingan ChatGPT di Inggris – telah menyatakan bahwa tidak ada pembuat gambar AI yang benar-benar aman, dan mendesak industri untuk jujur mengenai bahayanya.
Berbicara sebelum tampil di hadapan anggota parlemen yang membahas hak asasi manusia dan peraturan AI, Drayson mendesak tindakan dan menantang pemerintah untuk mendukung inovasi Inggris.
Dia berkata, “[The] industri perlu bangkit. Tidak mungkin bagi perusahaan AI mana pun untuk berjanji bahwa model mereka tidak dapat ditipu untuk membuat konten berbahaya, termasuk gambar eksplisit. Sistem ini cerdas, namun tidak selalu bisa diandalkan. Masyarakat berhak mendapatkan kejujuran.”
Menanggapi situasi saat ini, Locai menolak meluncurkan pembuatan gambar sampai “benar-benar aman”. Mereka juga melarang anak di bawah 18 tahun mengakses AI-nya chatbotdan menyerukan transparansi radikal di seluruh industri.
Perlu dicatat bahwa platform ini sebelumnya belum pernah mengimplementasikan fitur pembuatan gambar.
Larangan Grok sudah dimulai
Fitur pengeditan gambar Grok, yang disebut Grok Images, memungkinkan pengguna mengunggah foto dan kemudian menggunakan trik terkenal untuk meminta AI melepas pakaian atau membuat orang mengenakan bikini, termasuk pengeditan non-konsensual terhadap individu sehari-hari, tokoh masyarakat, dan anak-anak.
Situasi ini telah menyebabkan Grok dilarang di Indonesia dan Malaysia, dan larangan lebih lanjut kini sedang dipertimbangkan oleh regulator Inggris, Ofcom.
Ofcom hari ini meluncurkan penyelidikan ke dalam X milik Elon Musk. Dalam sebuah pernyataan, pengawas Inggris mengatakan ada “laporan yang sangat memprihatinkan” tentang chatbot yang digunakan untuk membuat dan berbagi gambar orang-orang yang tidak mengenakan pakaian, serta “gambar anak-anak yang diseksualisasikan.”
Menteri Teknologi Inggris, Liz Kendall, sebelumnya mengatakan dia akan mendukung regulator Ofcom jika mereka memblokir akses Inggris ke X – yang sebelumnya dikenal sebagai Twitter dan sekarang rumah bagi Grok – karena gagal mematuhi undang-undang keamanan online.
Elon Musk merespons ancaman dari pemerintah Inggris pada X dengan mengatakan, “Mereka menginginkan alasan untuk melakukan sensor.”
Menanggapi kontroversi tersebut, fitur Grok Images telah dibatasi hanya untuk pelanggan berbayar, sebuah tindakan yang tidak memuaskan pemerintah Inggris. Juru bicara Downing Street berkata, “Langkah ini mengubah fitur AI yang memungkinkan pembuatan gambar yang melanggar hukum menjadi layanan premium.”
Peraturan yang ketat mungkin akan terjadi
Itu Komite Hak Asasi Manusia Parlemen Inggris saat ini sedang menyelidiki risiko dan manfaat AI, bagaimana hal ini dapat berdampak pada privasi dan diskriminasi, dan apakah undang-undang dan kebijakan Inggris saat ini sudah memadai atau apakah undang-undang baru diperlukan untuk meminta pertanggungjawaban perusahaan dan pengembang AI.
James Drayson menambahkan: “Kami percaya Inggris dapat memimpin dunia dalam AI yang bertanggung jawab dan berbasis nilai jika kami mau. Hal ini berarti peraturan yang ketat, perdebatan terbuka, dan komitmen terhadap transparansi. AI akan tetap ada. Tantangannya adalah menjadikannya seaman, adil, dan dapat dipercaya, sehingga manfaatnya jauh lebih besar daripada risikonya.”
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
Laptop bisnis terbaik untuk semua anggaran
