Elon Musk, pemilik Tesla, SpaceX, X dan xIA
Platform Elon Musk
Platform X, sebelumnya Twitter, akhirnya mengumumkan, Rabu ini, langkah-langkah untuk mencegah Grok membuat deepfake dengan video wanita telanjang dan anak di bawah umurberdasarkan gambar orang sungguhan.
Pengumuman itu muncul setelah Jaksa Agung California, Rob Bontasetelah memulai penyelidikan terhadap xAI, perusahaan Kecerdasan Buatan Elon Muskuntuk “memfasilitasi produksi perkumpulan intim non-konsensual dalam skala besar, yang digunakan untuk melecehkan perempuan dan anak perempuan di internet, terutama melalui jejaring sosial X”, menurut sebuah pernyataan.
“Kami punya toleransi nol untuk pembuatan dan penyebaran, dengan AI, gambar atau materi intim tanpa persetujuan pedopornografi“, tambah Jaksa Agung Negara Bagian Amerika Utara di penyataan diterbitkan Rabu ini. Investigasi akan menentukan “apakah dan bagaimana xAI melanggar hukum“.
Gubernur Kalifornia, Gavin Newsommengatakan, juga pada hari Rabu, bahwa “keputusan keji oleh xASaya” membiarkan penyebaran deepfake yang eksplisit secara seksual membuatnya mendesak jaksa agung untuk meminta pertanggungjawaban perusahaan.
Jejaring sosial Musk, jutawan pendiri Tesla dan SpaceX, sementara itu mengatakan bahwa dia akan “kapasitas geo-blok” oleh pengguna Grok dan X sendiri untuk membuat gambar orang-orang yang mengenakan “bikini, pakaian dalam, dan sejenisnya” nyurisdiksi di mana tindakan ini dianggap ilegal.
“Kami telah menerapkan langkah-langkah teknologi untuk mencegah akun Grok mengizinkan pengeditan gambar orang sungguhan dengan pakaian terbuka, seperti bikini,” kata tim keamanan X dalam sebuah pernyataan. “Pembatasan ini berlaku untuk semua pengguna, termasuk pelanggan layanan berbayar“, tambahnya.
Sebagai “a lapisan perlindungan tambahan“, pembuatan gambar dan kemungkinan mengedit foto melalui akun Grok do X kini tersedia hanya untuk pelanggan berbayarpernyataan itu menambahkan.
Menurut kantor AFP, analisis yang dilakukan minggu lalu oleh LSM AI Forensik terhadap lebih dari 20.000 gambar yang dihasilkan oleh Grok mengungkapkan bahwa lebih dari setengahnya menggambarkan orang-orang dengan pakaian minimdimana 81% adalah perempuan dan sekitar 2% tampak seperti mereka masih di bawah umur.
Gerakan internasional kemarahan terhadap Grok dan kemungkinan tawaran AI Musk untuk memodifikasi gambar, khususnya yang dipublikasikan di jejaring sosial X, semakin meningkat dalam beberapa minggu terakhir.
Opsi ini memungkinkan pengguna untuk membuat ‘deepfake’ yang bersifat seksual terhadap perempuan dan anak di bawah umur menggunakan indikasi seperti “masukkan dia ke dalam bikini” atau “menanggalkan pakaiannya“.
Itu bersatu, wahai Grot berusaha menghindari kritikdengan diumumkannya kebijakan monetisasi baru, mengumumkan di X bahwa pembuatan dan pengeditan gambar akan menjadi “terbatas pada pelanggan layanan berbayar“.
Tapi iklan ini hanya semakin memicu kemarahan: kantor Perdana Menteri Inggris Keir Starmer mengutuk tindakan tersebut, menganggapnya a penghinaan terhadap korban, dan “bukan solusi”.
Pada gilirannya, regulator media Inggris mengumumkan pembukaan penyelidikan untuk menentukan apakah X melanggar undang-undang Inggris mengenai gambar seksual.
Juga Komisaris Perancis untuk Anak-anak, Sarah El Berbulumengatakan bahwa dia telah mengirimkan gambar yang dibuat oleh Grok ke kantor kejaksaan negara tersebut, regulator media Arcom dan Uni Eropa — namun meminta agar pembuatan konten jenis ini segera diblokir.
Semakin meningkatkan tekanan pada perusahaan Musk, sebuah asosiasi 28 organisasi masyarakat sipil mengirim surat terbuka kepada direktur eksekutif Apple dan Google Rabu ini, mendesak mereka untuk melarang Grok dan X dari toko aplikasi Anda.
Namun, itu Indonesia, Malaysia, dan Filipina memblokir akses ke Groksementara India mengumumkan bahwa X telah menghapus ribuan postingan dan ratusan akun pengguna sebagai tanggapan atas keluhannya.
Rupanya, saat itu, di kode moral perusahaan Elon Musktidak ada masalah dalam menghasilkan, tanpa persetujuan, gambar-gambar seksual perempuan dan anak-anak — selama itu adalah layanan berbayaratau di mana praktek ini tidak ilegal.
