- Alat Grok AI milik X telah menciptakan gambar-gambar pornografi wanita dan anak-anak
- Sekarang, Senator AS telah mengatakan kepada Apple dan Google bahwa mereka harus melarang aplikasi tersebut
- Malaysia dan Indonesia telah memblokir penggunaan aplikasi tersebut
Dalam beberapa minggu terakhir terungkap bahwa kecerdasan buatan (AI) bawaan X bot obrolan Grok secara aktif digunakan untuk menghasilkan gambar eksplisit anak-anak dan perempuan tanpa persetujuan mereka, yang menyebabkan seruan kepada Apple dan Google untuk menghapus aplikasi Grok dan X dari toko aplikasi masing-masing.
Kini, tekanan semakin meningkat setelah sekelompok Senator AS menulis surat kepada Apple dan Google menuntut mereka mengambil tindakan – dan saat ini pengawas media Inggris, Ofcom, mengatakan hal itu telah dilakukan meluncurkan penyelidikan resmijuga.
Surat AS tersebut ditandatangani oleh Senator Ron Wyden, Ben Ray Lujan, dan Edward Markey, dan menyerukan kepada perusahaan-perusahaan tersebut untuk “menegakkan persyaratan layanan toko aplikasi Anda,” karena “generasi X yang melakukan penggambaran perempuan dan anak-anak yang berbahaya dan kemungkinan ilegal ini telah menunjukkan pengabaian sepenuhnya terhadap persyaratan distribusi toko Anda.”
Setelah merinci bagaimana Grok telah “memodifikasi gambar untuk menggambarkan perempuan yang dilecehkan, dipermalukan, disakiti, dan bahkan dibunuh secara seksual” dan bagaimana “Grok dilaporkan telah membuat gambar anak-anak yang bersifat seksual,” para Senator menunjukkan bahwa tindakan ini melanggar kebijakan toko aplikasi keduanya. Apel Dan Google.
Persyaratan layanan Google “melarang pengguna membuat, mengunggah, atau mendistribusikan konten yang memfasilitasi eksploitasi atau pelecehan terhadap anak-anak,” kata para Senator, “termasuk melarang penggambaran anak-anak dengan cara yang dapat mengakibatkan eksploitasi seksual terhadap anak-anak.”
Sementara itu, Apple dengan tegas melarang “materi seksual atau pornografi yang terang-terangan.” Para Senator menyatakan bahwa “Menutup mata terhadap perilaku buruk X akan mengejek praktik moderasi Anda.”
Tekanan pada X dan Musk semakin meningkat
Kelompok senator AS juga menunjuk pada penolakan Apple dan Google baru-baru ini pengawasan peraturan yang lebih besar dari toko aplikasi mereka.
“Tidak mengambil tindakan akan melemahkan klaim Anda di depan umum dan di pengadilan bahwa toko aplikasi Anda menawarkan pengalaman pengguna yang lebih aman daripada membiarkan pengguna mengunduh aplikasi langsung ke ponsel mereka,” tulis para Senator, sambil menambahkan bahwa “Prinsip ini telah menjadi inti dari advokasi Anda terhadap reformasi legislatif untuk meningkatkan persaingan toko aplikasi dan pembelaan Anda terhadap klaim bahwa toko aplikasi Anda menyalahgunakan kekuatan pasar mereka melalui sistem pembayaran mereka.”
Apple dan Google telah membuktikan bahwa mereka dapat bergerak cepat untuk melarang aplikasi, kata para Senator. “Perusahaan Anda dengan cepat menghapus aplikasi yang memungkinkan pengguna melaporkan aktivitas penegakan imigrasi secara sah, seperti ICEBlock dan Red Dot,” bantah mereka. “Tidak seperti pembuatan konten yang memuakkan dari Grok, aplikasi ini tidak membuat atau menghosting konten berbahaya atau ilegal, namun sepenuhnya didasarkan pada [US Government’s] mengklaim bahwa produk tersebut menimbulkan risiko bagi petugas imigrasi, Anda menghapusnya dari toko Anda.”
Para Senator mengatakan mereka berharap Apple dan Google akan “menunjukkan tingkat respons yang sama dan memulai tindakan cepat untuk menghapus aplikasi X dan Grok dari toko aplikasi Anda.”
Terlepas dari apakah Apple dan Google mengambil tindakan, X dan Grok menghadapi tekanan yang semakin besar di seluruh dunia. Pemerintah Indonesia dan Malaysia baru-baru ini memblokir Grok mengingat kontroversi pembuatan gambar, dan karena legislator di Inggris, Uni Eropa, dan India juga meneliti dengan cermat alat AI, mereka mungkin bukan satu-satunya negara yang mengambil tindakan.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
