Fazry Ismail / EPA
Grok
Pengusaha mengumumkan bahwa jejaring sosial akan menjadi open source mulai hari Sabtu. Indonesia dan Malaysia adalah negara pertama yang memblokir asisten AI.
Taipan dan pemilik XElon Musk, mengumumkan bahwa mulai Sabtu depan, jejaring sosialnya akan hadir sumber terbuka, termasuk semua kode yang digunakan untuk menentukan postingan organik dan iklan yang direkomendasikan kepada pengguna.
Langkah ini diambil setelah serangkaian kontroversi yang melibatkan platform yang terkait dengan generasi gambar eksplisit dengan kecerdasan buatan (IA) atas permintaan pengguna, termasuk ketelanjangan anak di bawah umur.
Setelah adanya keluhan dari pengguna dan institusi, seperti Uni Eropa, yang memerintahkan platform untuk menyimpan semua dokumentasi hingga akhir tahun, Musk mengambil keputusan untuk mempublikasikan algoritma baru tersebut untuk memberikan lebih banyak transparansi pada jejaring sosial.
Dalam pesan yang diterbitkan di X, Elon Musk mengklarifikasi bahwa tindakan ini “akan dilakukan diulang setiap empat minggudengan catatan lengkap bagi pengembang untuk membantu mereka melihat apa yang telah berubah.”
Namun, ini bukan pertama kalinya bahwa taipan tersebut mencoba membuat open source. Setelah itu, para insinyur platform berargumen bahwa itu untuk “pelacakan statistik”, meskipun mereka kemudian menghilangkan bagian algoritma tersebut.
Grok diblokir
Indonésia e Malaysia adalah negara pertama, akhir pekan ini, yang melakukan memblokir ‘asisten’ Kecerdasan Buatan (AI) Grok, dari perusahaan xAI milik Elon Musk dari Amerika Utara, karena mereka menganggap alat untuk menghasilkan gambar konten seksual non-konsensual.
Grok “chatbot” (robot kontak), melalui platform digital di jaringan X, telah menjadi sasaran ulasan untuk membuat gambar yang dimanipulasi, termasuk representasi perempuan bikini atau di pose seksual eksplisit, serta gambar yang melibatkan anak-anak.
Badan pengawas kedua negara Asia Tenggara tersebut menyatakan bahwa tidak adanya mekanisme kontrol untuk mencegah produksi dan penyebaran konten pornografi palsu. Pemerintah Indonesia untuk sementara memblokir akses ke Grok pada hari Sabtu, diikuti oleh Malaysia pada hari Minggu.
“Pemerintah menganggap ‘deepfakes’ (konten buatan) seksual non-konsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat dan keamanan warga negara di ruang digital,” kata Menteri Komunikasi dan Digital Indonesia, Meutya Hafid, dalam sebuah pernyataan.
Langkah-langkah ini mencerminkan meningkatnya kekhawatiran global terhadap alat AI generatif yang dapat menghasilkan gambar, suara, dan teks yang realistis, sementara upaya perlindungan yang ada gagal mencegah penyalahgunaannya.
Direktur Jenderal Pengawasan Ruang Digital Alexander Sabar dalam keterangan lain menyatakan hal itu terbukti Grok tidak memiliki perlindungan yang efektif untuk mencegah pengguna membuat dan mendistribusikan konten porno berdasarkan foto asli warga negara Indonesia, seraya menambahkan bahwa praktik tersebut melanggar privasi dan hak citra, serta dapat menyebabkan kerusakan psikologis, sosial, dan reputasi.
Di Kuala Lumpur, Komisi Komunikasi dan Multimedia Malaysia memerintahkan pembatasan sementara pada Grok pada hari Minggu, menyusul apa yang mereka sebut sebagai “penyalahgunaan berulang” terhadap alat tersebut untuk menghasilkan gambar-gambar cabul, eksplisit secara seksual, dan dimanipulasi tanpa izin, termasuk konten yang melibatkan perempuan dan anak di bawah umur.
Badan pengawas lokal mengatakan bahwa pemberitahuan yang dikeluarkan bulan ini kepada perusahaan Musk (X Corp. dan xAI), yang menuntut perlindungan yang lebih kuat, menerima tanggapan terutama berdasarkan keluhan pengguna.
“Pembatasan ini diberlakukan sebagai tindakan preventif dan proporsional sementara proses hukum dan peraturan sedang berjalan,” kata kelompok usaha tersebut, seraya menambahkan bahwa akses akan diblokir sampai ada upaya perlindungan yang efektif.
Diluncurkan pada tahun 2023, Grok gratis digunakan di jejaring sosial X. Pelanggan bisa ajukan pertanyaan di platform dan tandai postingan yang mereka buat secara langsung atau tanggapan terhadap postingan dari pengguna lain.
Selama musim panas, perusahaan menambahkan fitur pembuat gambar, yaitu Grok Bayangkan, yang mencakup apa yang disebut “mode pedas” yang dapat menghasilkan konten dewasa.
Pembatasan di Asia Tenggara terjadi seiring dengan meningkatnya jumlah kasus tersebut pengawasan ke Grok di negara lain, termasuk Uni Eropa, Inggris dan India.
Pekan lalu, pembuatan dan pengeditan gambar pelanggan dibatasi menyusul reaksi global atas ‘deepfake’ yang bersifat seksual terhadap orang-orang, namun banyak ahli berpendapat bahwa tindakan tersebut tidak sepenuhnya menyelesaikan masalah.
