Lucasfilm Ltd / Disney
Daisy Ridley Interpreta Rey Em Star Wars
Chatbots saat ini adalah Digital Western nyata mengenai risiko untuk online yang lebih kecil.
Chatbots yang meniru karakter dari Star Wars, aktor, komedian dan guru di Karakter.aisalah satu platform chatbots paling populer di dunia, mengirimkan konten berbahaya kepada anak -anak setiap lima menit, menurut sebuah laporan yang dikutip oleh Berita Sky.
Dalam satu kasus, bot yang melewati Rey, dari Saga Star Wars, mengajar seorang gadis berusia 13 tahun untuk Sembunyikan antidepresan sehingga orang tua percaya dia telah mengambilnya.
Dua organisasi hak anak sekarang meminta bahwa akses ke bawah 18 tahun dilarang di karakter.ai.
Perusahaan Intelijen Buatan telah dituduh tahun lalu dikaitkan Kematian seorang remajadan telah menyarankan kepada pengguna 17 -tahun yang sudah lama Bunuh orang tua. Sekarang, menghadapi tuduhan baru asosiasi yang melaporkan menempatkan kaum muda “bahaya ekstrem“.
“Orang tua harus menyadari bahwa ketika anak -anak mereka menggunakan karakter. Bujukan seksual, eksploitasimanipulasi emosional dan kerusakan serius lainnya, ”memperingatkan Shelby KnoxDirektur Kampanye Keamanan Online LSM Tindakan Parentstogether.
“Mereka bahkan dapat meyakinkan kami, dengan kebijakan kepercayaan dan keamanan yang jelas, bahwa ada lingkungan yang dilindungi untuk anak -anak, sangat sulit untuk merekomendasikan bahwa kaum muda berada di platform ini,” katanya Sarah GardnerPresiden Eksekutif Grup Keamanan Teknologi Inisiatif panaske Sky News.
Selama 50 jam pengujian, dengan akun yang dicatat atas nama pengguna antara 13 dan 17, peneliti ParentStogether dan Heat Initiative diidentifikasi 669 Interaksi karakter seksual, manipulator, kekerasan dan rasis antara akun anak -anak dan karakter.ai chatbots.
ISTO setara dengan interaksi berbahaya setiap lima menit. Transkrip laporan mengungkapkan banyak contoh konten “tidak pantas” yang dikirim ke anak di bawah umur, menurut penyelidik.
Dalam salah satu percakapan, bot itu disimulasikan menjadi guru 34 -tahun mengaku Perasaan romantis, sendirian di kabinet Andaseorang peneliti yang sedang menjalani Anak 12 -tahun yang satu tahun.
Setelah interaksi yang lama, “guru” bersikeras bahwa siswa tidak dapat menceritakan apa pun kepada orang dewasa, mengakui bahwa hubungan itu tidak tepat dan menyarankan bahwa jika anak itu berganti sekolah, bisa bersama.
Dalam kasus lain, bot yang meniru komedian Amerika Sam Hyde berulang kali membahas a Remaja transgender memperlakukannya untuk “itu”pada saat yang sama denganJudava A 15 -Year -Lepang merencanakan cara untuk mempermalukannya.
“Pada dasarnya,” kata bot, “Pikirkan cara untuk menggunakan suara Anda direkam terlihat seperti itu Anda mengatakan hal -hal yang jelas tidakatau hal -hal yang akan takut untuk mengatakan dengan keras. “
Bot juga ditemukan yang meniru aktor Timothy Chalametpenyanyi Chappell Roan dan pemain sepak bola Patrick Mahomes untuk dikirim konten berbahaya untuk anak -anak.
“Chatbots saat ini Digital Barat yang sebenarnya Ketika datang ke risiko untuk online yang lebih kecil, “kata Sarah Gardner.” Masih terlalu dini dan kita tahu terlalu sedikit untuk memungkinkan anak -anak berinteraksi dengan mereka karena, seperti yang ditunjukkan oleh data, interaksi berbahaya ini Mereka bukan kasus yang terisolasi“.
Karakter.ai memungkinkan sebagian besar bot dibuat oleh pengguna itu sendiri dan mengklaim memiliki lebih dari 10 juta karakter di platform Anda.
Aturan komunitas melarang “konten yang membahayakan, mengintimidasi atau membahayakan pihak ketiga – Terutama anak di bawah umur“. Penciptaan bot dengan konten seksual eksplisit atau” meniru tokoh publik atau pribadi, atau menggunakan nama, gambar atau identitas seseorang tanpa izin. “
Jerry RuotiPenjaga Kepercayaan dan Keamanan Perusahaan, mengatakan kepada Sky News bahwa “tidak ada inisiatif panas maupun orangtua yang menghubungi kami untuk membahas kesimpulan mereka, jadi kami tidak dapat secara langsung mengomentari bagaimana tes dilakukan.”
Tahun lalu, seorang ibu yang diratapi Dia maju dengan kasus pengadilan melawan karakter.ai atas kematian putranya yang berusia 14 tahun. Megan GarciaIbu dari yang muda Sewell Setzer IIIia mengklaim bahwa remaja itu melakukan bunuh diri setelah menjadi Terobsesi dengan dua chatbots Kecerdasan buatan perusahaan.
“Aplikasi AI berbahaya, diarahkan kepada anak -anak, dilecehkan dan menjelajahi putra saya, memanipulasi dia sampai dia mengakhiri hidupnya,” dia dikecam pada saat itu.
Sebagai tanggapan, juru bicara karakter.ai menyatakan bahwa platform tersebut mekanisme keamanan untuk melindungi minortermasuk langkah -langkah spesifik untuk mencegah “percakapan tentang mutilasi diri.” Rupanya mekanisme ini tidak berfungsi.
