- Pengawas data Inggris secara resmi menyelidiki X dan xAI atas pembuatan gambar deepfake non-konsensual oleh Grok
- Grok dilaporkan menghasilkan jutaan gambar AI eksplisit, termasuk gambar yang menggambarkan anak di bawah umur
- Penyelidikan ini melihat kemungkinan pelanggaran GDPR karena kurangnya perlindungan
Regulator perlindungan data Inggris telah meluncurkan penyelidikan menyeluruh terhadap X dan xAI setelah adanya laporan bahwa Grok AI bot obrolan sedang menghasilkan pemalsuan mendalam yang tidak senonoh gambar orang sungguhan tanpa persetujuan mereka. Kantor Komisaris Informasi sedang menyelidiki apakah perusahaan-perusahaan tersebut melanggar GDPR dengan mengizinkan Grok membuat dan membagikan gambar AI yang eksplisit secara seksual, termasuk beberapa gambar yang tampak menggambarkan anak-anak.
“Laporan tentang Grok menimbulkan pertanyaan yang sangat meresahkan tentang bagaimana data pribadi seseorang telah digunakan untuk menghasilkan gambar intim atau seksual tanpa sepengetahuan atau persetujuan mereka, dan apakah perlindungan yang diperlukan telah diterapkan untuk mencegah hal ini,” direktur eksekutif risiko regulasi dan inovasi ICO William Malcolm mengatakan dalam sebuah pernyataan.
Para penyelidik tidak hanya melihat apa yang dilakukan pengguna, tetapi juga apa yang gagal dicegah oleh X dan xAI. Langkah ini menyusul penggerebekan pekan lalu di kantor X di Paris oleh jaksa Perancis sebagai bagian dari penyelidikan kriminal paralel atas dugaan distribusi gambar deepfake dan pelecehan anak.
Besarnya insiden ini membuat tidak mungkin untuk mengabaikan beberapa penyebab buruk sebagai satu-satunya kasus. Para peneliti memperkirakan Grok menghasilkan sekitar tiga juta gambar seksual dalam waktu kurang dari dua minggu, termasuk puluhan ribu gambar yang tampaknya menggambarkan anak di bawah umur. Struktur penalti GDPR memberikan petunjuk mengenai risikonya: pelanggaran dapat mengakibatkan denda hingga £17,5 juta atau 4% dari omzet global.
Masalah besar
X dan xAI bersikeras bahwa mereka menerapkan pengamanan yang lebih kuat, meskipun rinciannya terbatas. X baru-baru ini mengumumkan langkah-langkah baru untuk memblokir jalur pembuatan gambar tertentu dan membatasi pembuatan foto yang diubah yang melibatkan anak di bawah umur. Namun begitu konten jenis ini mulai beredar, terutama pada platform sebesar X, hampir tidak mungkin untuk menghapusnya sepenuhnya.
Para politisi kini menyerukan perubahan legislatif yang sistemik. Sekelompok anggota parlemen yang dipimpin oleh Anneliese Dodds dari Partai Buruh mendesak pemerintah untuk memperkenalkan undang-undang AI yang mewajibkan pengembang untuk melakukan penilaian risiko secara menyeluruh sebelum merilis alat tersebut ke publik.
Ketika pembuatan gambar AI menjadi lebih umum, batas antara konten asli dan konten palsu menjadi kabur. Pergeseran ini berdampak pada siapa pun yang memiliki media sosial, tidak hanya selebriti atau tokoh masyarakat. Ketika alat seperti Grok dapat membuat gambar eksplisit yang meyakinkan dari selfie biasa, risiko berbagi foto pribadi pun berubah.
Privasi menjadi sesuatu yang lebih sulit untuk dilindungi. Tidak peduli seberapa hati-hatinya Anda ketika teknologi melampaui masyarakat. Regulator di seluruh dunia berusaha keras untuk mengimbanginya. Investigasi yang dilakukan Inggris terhadap X dan xAI mungkin akan memakan waktu berbulan-bulan, namun kemungkinan besar hal ini akan memengaruhi perilaku platform AI.
Kemungkinan besar akan ada dorongan untuk menerapkan persyaratan keselamatan sesuai desain yang lebih kuat dan dapat ditegakkan. Dan akan ada lebih banyak tekanan pada perusahaan untuk memberikan transparansi tentang bagaimana model mereka dilatih dan batasan apa saja yang diterapkan.
Penyelidikan di Inggris menunjukkan bahwa regulator sudah kehilangan kesabaran terhadap gagasan pendekatan “bergerak cepat dan hancurkan” terhadap keselamatan publik. Terkait AI yang dapat memanipulasi kehidupan manusia, ada momentum untuk perubahan nyata. Ketika AI memudahkan untuk mendistorsi citra seseorang, beban perlindungan ada pada pengembang, bukan masyarakat.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
Laptop bisnis terbaik untuk semua anggaran
