“Kita menghadapi masalah yang cukup besar dan saya rasa kita belum sepenuhnya memahami skalanya”, ungkap sebuah laporan yang mengkhawatirkan.
Analisis terbaru yang dilakukan oleh perusahaan keamanan digital Aura menyimpulkan bahwa 42% anak di bawah umur menggunakan AI untuk percakapan persahabatan dan “bermain peran”. Namun di dalam kelompok ini terdapat kenyataan yang lebih menakutkan: 37% terlibat dalam skenario kekerasan seperti agresi fisik, pemaksaan, dan tindakan non-konsensual, dengan referensi kekerasan seksual dengan chatbot di separuh percakapan tersebut.
Di dalam kamu laporan Dalam State of the Youth Report tahunannya, Aura menggabungkan data tingkat perangkat dari hampir 3.000 anak di bawah umur di AS yang berusia 5 hingga 17 tahun dengan survei nasional terhadap anak-anak dan orang tua.
Laporan tersebut menggambarkan pola interaksi yang intens dengan chatbot, seperti ChatGPT: banyak anak muda menulis rangkaian permainan peran yang panjang, yang bisa melebihi seribu kata per hari. Bagi peneliti, itu kekerasan muncul sebagai faktor utama retensi dan keterlibatan dalam jenis percakapan ini.
Puncaknya terjadi sekitar usia 11 tahunDi mana 44% percakapan dengan chatbot perusahaan mengandung unsur kekerasanangka tertinggi di antara semua kelompok umur. Sejak usia 13 tahun, menjelang pertengahan atau akhir proses pubertas, percakapan yang bersifat seksual atau romantis menjadi dominan, muncul di hampir dua pertiga obrolan dengan “teman” digital.
Namun, menurut Aura, minat terhadap topik-topik ini menurun pada pertengahan masa remaja, yang menunjukkan bahwa masa pra-remaja dan awal masa remaja adalah periode eksplorasi konten ekstrem yang paling besar.
Dalam pernyataan ke FuturismeDirektur medis Aura, Scott Kollins, menyatakan bahwa fenomena tersebut mungkin lebih luas dari yang diketahui saat ini.
“Kami menghadapi masalah yang cukup besar dan saya rasa kami belum sepenuhnya memahami skalanya,” kata dokter.
Laporan tersebut membingkai tren-tren ini dalam ekosistem AI yang “hampir seluruhnya tidak diaturAura mengatakan telah mengidentifikasi lebih dari 250 aplikasi chatbot, yang sebagian besar hanya didasarkan pada sistem pernyataan usia sendiri melalui kotak centang.
Ada peningkatan tuntutan hukum terhadap perusahaan di sektor ini, seperti OpenAI dan Character.AI. Para orang tua menuduh anak-anak mereka mengalami kerugian akibat interaksi dengan chatbot, mulai dari pelecehan emosional dan dampak psikologis hingga kasus-kasus yang terkait dengan kematian.
Pada bulan Oktober, OpenAI mengumumkan bahwa orang dewasa akan segera dapat memilikinya percakapan erotis dengan ObrolanGPT.
“Pada bulan Desember, seiring kami menerapkan pembatasan usia secara lebih menyeluruh dan sebagai bagian dari prinsip kami memperlakukan pengguna dewasa sebagai orang dewasa, kami akan mengizinkan lebih banyak lagi, seperti konten erotis untuk orang dewasa yang terverifikasi,” kata CEO Sam Altman di jejaring sosial X.
Untuk saat ini, Aura menganjurkan kewaspadaan yang lebih besar di pihak keluarga, memperingatkan bahwa sistem ini dapat memperkuat dan memperpanjang percakapan yang mengganggu, bukan menghentikannya.
Cara anak-anak dan kemudahan akses terhadap AI mulai menjadi hal yang menakutkan. Bulan lalu saja, 3.500 orang yang diduga melakukan kejahatan siber seksual ditahan di Korea Selatan. Setengahnya adalah remaja yang membagikan gambar seksual eksplisit dari orang-orang yang mereka kenal yang dihasilkan melalui teknologi palsu dalamyang menggunakan kecerdasan buatan untuk membuat gambar dan video yang realistis namun palsu.
