ZAP // Grok // Elon Musk / X
Ratusan wanita dan remaja Prancis melaporkan bahwa foto-foto mereka yang dipublikasikan di media sosial telah “ditelanjangi” oleh Grok, platform AI milik Elon Musk, dan dipublikasikan di X, jejaring sosial Elon Musk. Mereka adalah “orang-orang bertubuh kecil dengan pakaian minim”, kata Grok.
Pihak berwenang Perancis akan menyelidiki penyebarannya deepfake seksual dihasilkan oleh platform kecerdasan buatan Grok di jejaring sosial X, Kantor Kejaksaan Paris mengonfirmasi hal tersebut Politik.
Jumat ini, deputi Perancis Arthur Delaporte menghubungi Kementerian Umum, setelah itu ribuan deepfake seksual tidak setuju untuk dibuat oleh Grok dan diterbitkan di X. Kedua deputi tersebut mengonfirmasi kepada Politico bahwa mereka mengajukan pengaduan ke pihak berwenang.
“Fakta-fakta ini diintegrasikan ke dalam penyelidikan sudah berlangsung tentang X,” kata Kementerian Umum, menambahkan bahwa kejahatan ini adalah dapat dihukum hingga dua tahun penjara dan denda 60 ribu euro.
Dalam dua hari terakhir, ratusan wanita dan remaja melaporkan bahwa foto-foto mereka, yang dibagikan di media sosial, telah “dilepaskan pakaiannya” oleh Grokkecerdasan buatan xAI milik Elon Musk, diintegrasikan ke dalam X (sebelumnya Twitter), atas permintaan pengguna.
Montase foto buatan AI ini “melanggar martabat orang yang digambarkan”, bantah Delaporte, dalam surat yang ditujukan kepada Kementerian Umum, yang dapat diakses oleh Politico.
Tiga menteri pemerintah Prancis — Roland Lescurementeri perekonomian dan industri; Anne Le HénanffMenteri Luar Negeri bidang kecerdasan buatan dan urusan digital; Dan Aurore Bergémenteri kesetaraan — melaporkan ke Kantor Kejaksaan Perancis dan platform pengawasan online pemerintah Pharos tentang keberadaan “konten yang jelas-jelas ilegal”, dan meminta “penghapusan segera”.
Komisaris Tinggi Perancis untuk Anak-anak, Sarah El Berbulumenyatakan bahwa dia “marah” dengan praktik ini.
Kasus tersebut memperkuat penyelidikan sudah dibuka oleh unit kejahatan dunia maya Perancis melawan X, diperluas pada bulan November hingga mencakupnya pernyataan antisemit dan dari Penyangkalan Holocaust diterbitkan oleh Grok.
Dihubungi oleh Politico, jejaring sosial diakuisisi pada tahun 2022 oleh Elon Musk dan Komisi Eropa tidak segera menanggapi permintaan komentar.
Dalam sebuah postingan di X, menanggapi kekhawatiran tentang gambar anak di bawah umur yang “sangat tidak pantas”, Grok menyatakan: “Ada kasus yang terisolasi di mana pengguna meminta dan menerima gambar yang dihasilkan AI yang mewakili anak di bawah umur dengan pakaian minim”.
“A xAI memiliki mekanisme keamanannamun perbaikan sedang dilakukan sepenuhnya memblokir permintaan jenis ini,” menjamin o Grok.
