OpenAI akan memberikan ChatGPT sebuah pilihan khusus dewasa. Pada saat yang hampir bersamaan, perusahaan tersebut telah berpisah dengan cara yang penuh perselisihan dengan salah satu eksekutif yang bertanggung jawab untuk memutuskan seberapa jauh sistem tersebut harus dibiarkan berjalan, seperti yang pertama dilaporkan oleh Jurnal Wall Street. Janji CEO OpenAI Sam Altman tentang mode dewasa yang bertanggung jawab dan aman untuk ChatGPT kini berisiko terlihat sia-sia.
Ryan Beiermeister memimpin kebijakan produk di OpenAI, membentuk aturan dan mekanisme penegakan yang mengatur perilaku ChatGPT, setidaknya hingga bulan lalu. Waktunya penting sebagai WSJ mengatakan hal itu terjadi segera setelah dia menyampaikan kekhawatirannya tentang rencana mode dewasa.
OpenAI mengatakan kepergiannya tidak ada hubungannya dengan keberatan yang dia sampaikan dan malah terkait dengan tuduhan diskriminasi yang dia bantah keras. Dia menyebut klaim tersebut “sepenuhnya salah,” dan waktunya sulit untuk diabaikan.
Menurut laporan tersebut, Beiermeister memperingatkan rekan-rekannya bahwa mekanisme perusahaan untuk memblokir konten eksploitasi anak tidak cukup kuat dan mencegah pengguna remaja mengakses materi dewasa akan jauh lebih sulit daripada yang diperkirakan para eksekutif. Meskipun keluarnya dia dari OpenAI tidak ada hubungannya dengan peringatan tersebut, hal ini dijamin akan menimbulkan keheranan di antara mereka yang sudah khawatir tentang seks online.
Yang membuat momen ini berbeda adalah sifat produknya. ChatGPT bersifat interaktif, adaptif, dan mampu merespons isyarat emosional pengguna. Itu dapat menyesuaikan fantasi secara real time. Peralihan dari konsumsi pasif ke simulasi yang dipersonalisasi mengubah taruhannya.
AI yang semakin dewasa
Argumen Altman bertumpu pada gagasan bahwa kedewasaan telah tiba. Versi awal ChatGPT sengaja dibatasi. Sistem sering kali menolak untuk terlibat bahkan dalam permainan peran romantis yang ringan. Banyak pengguna yang mengeluh terasa kaku dan terlalu berhati-hati.
Premisnya sekarang adalah bahwa sistem keselamatan yang lebih baik, pemantauan yang lebih baik, dan verifikasi usia yang lebih kuat memungkinkan perluasan tersebut. Orang dewasa yang terverifikasi, dalam pandangan ini, harus diperlakukan seperti orang dewasa.
Prinsip itu terdengar masuk akal. Orang dewasa secara rutin mengakses konten erotis online. Jika sebuah chatbot dapat menghasilkan cerita pendek yang menarik untuk orang dewasa, mengapa cerita tersebut harus diperlakukan berbeda dari novel roman yang ada di rak toko buku?
Tapi ChatGPT bukanlah aplikasi khusus dewasa. Ini adalah asisten serba guna yang digunakan di kantor, ruang kelas, dan rumah. Ini menyusun email, menjelaskan pekerjaan rumah, membantu coding, dan menawarkan persahabatan dengan orang-orang yang merasa terisolasi.
Kekhawatiran Beiermeister terhadap eksploitasi anak dan akses remaja menunjukkan kelemahan yang lazim dalam perlindungan digital. Remaja seringkali mengabaikan pembatasan pada platform sosial dengan mudah, sementara pemeriksaan identitas dapat dipalsukan.
OpenAI kemungkinan besar akan berpendapat bahwa menolak menawarkan konten dewasa tidak menghalangi keberadaannya. Pesaing sudah melakukannya. XAI milik Elon Musk meluncurkan Ani, pendamping AI bergaya anime yang genit, dan pasar telah menunjukkan minat terhadap pendamping AI yang mengaburkan batas antara percakapan dan rayuan.
Namun pengalaman xAI baru-baru ini, ketika chatbot Grok AI-nya dilaporkan digunakan untuk membuat deepfake seksual tanpa persetujuan, telah menunjukkan bahayanya berenang di perairan ini. Regulator Inggris membuka penyelidikan mengenai apakah perlindungan yang memadai telah dimasukkan ke dalam desain sistem, dan perusahaan segera menerapkan pembatasan baru dalam mengedit gambar orang sungguhan menjadi pakaian terbuka.
OpenAI mungkin tidak mengalami kegagalan yang sama, namun ketika kemampuan eksplisit semacam ini ada, kemampuan tersebut dapat digunakan kembali dengan cara yang tidak diantisipasi atau tidak dapat dikontrol sepenuhnya oleh para desainer.
Kedewasaan hilang
Laporan pemecatan Beiermeister membuat segala sesuatunya tampak tidak menyenangkan dalam hal lain. Meskipun OpenAI menegaskan penghentiannya tidak ada hubungannya dengan keberatan kebijakannya, fakta bahwa ada perdebatan mengenai hal itu bukanlah hal yang ideal bagi perusahaan. Ketika seorang pemimpin senior yang bertanggung jawab menyusun dan menegakkan peraturan keselamatan keluar dari perusahaan di tengah perselisihan kebijakan, para pengamat menemukan adanya koneksi.
Namun, mode dewasa ChatGPT mungkin diterapkan dengan bijaksana, dengan batasan yang jelas dan penegakan yang kuat. Semua kekhawatiran yang ada saat ini mungkin akan hilang begitu saja. Seksualitas pada dasarnya tidak berbahaya, dan orang dewasa mampu membuat pilihan mengenai apa yang mereka konsumsi.
Namun sudah banyak cerita tentang orang-orang yang jatuh cinta dengan kepribadian ChatGPT versi mereka. Menambahkan konten seksual ke dalam persamaan tersebut tidak akan banyak mengurangi masalah.
Tekanan pasar untuk memperluas ke konten dewasa sudah jelas. Namun terdapat, atau setidaknya harus ada, perhitungan moral di samping logika pasar. ChatGPT telah menjadi infrastruktur bagi jutaan orang. Keputusan mengenai evolusinya mempunyai bobot sosial.
Jika pemecatan Ryan Beiermeister tidak ada hubungannya dengan keberatannya, OpenAI memiliki peluang untuk memperjelas hal tersebut dan menunjukkan bahwa perdebatan kebijakan tetap kuat di dalam organisasinya. Jika tidak, akan ada kecurigaan bahwa pertumbuhan lebih diprioritaskan daripada kehati-hatian.
Ketika sebuah perusahaan melonggarkan batasannya, dunia akan menyaksikan siapa yang masih memegang kendali. Dalam kasus ini, salah satu orang yang ditugaskan untuk membuat batasan sudah tidak ada lagi di ruangan tersebut, dan tanpa adanya perselisihan yang mendasar tersebut, keputusan apa pun kemungkinan besar akan dianggap tidak sempurna.
OpenAI ingin memperlakukan orang dewasa seperti orang dewasa. Aspirasi tersebut harus mencakup memperlakukan kritik internal sebagai mitra yang sangat diperlukan. Jika tidak, mode dewasa tidak akan menjadi mode dewasa dalam hal yang paling penting, menjaga semuanya tetap aman untuk anak-anak.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
Laptop bisnis terbaik untuk semua anggaran
