- Sam Altman membela upaya keamanan OpenAI setelah Elon Musk menyalahkan ChatGPT atas banyak kematian
- Altman menyebut keamanan AI “sangat sulit”, menyoroti keseimbangan antara perlindungan dan kegunaan
- OpenAI menghadapi beberapa tuntutan hukum kematian yang tidak wajar terkait dengan klaim bahwa ChatGPT memperburuk kondisi kesehatan mental
CEO OpenAI Sam Altman tidak dikenal terlalu banyak berbagi tentang cara kerja ChatGPT. Namun ia mengaku kesulitan menjaga AI tersebut bot obrolan aman dan berguna. Elon Musk tampaknya memicu wawasan ini dengan postingan berduri di X (sebelumnya Twitter). Musk memperingatkan orang-orang untuk tidak menggunakan ChatGPT, membagikan tautan ke artikel yang mengklaim adanya hubungan antara asisten AI dan sembilan kematian.
Pertukaran media sosial yang panas antara dua tokoh paling berpengaruh dalam kecerdasan buatan menghasilkan lebih dari sekadar ego yang terluka atau luka hukum. Postingan Musk tidak mengacu pada konteks yang lebih luas dari kematian tersebut atau tuntutan hukum yang dihadapi OpenAI terkait dengan kematian tersebut, namun Altman jelas merasa terdorong untuk menanggapinya.
Jawabannya lebih menyentuh hati daripada jawaban perusahaan biasa yang biasa-biasa saja. Ia malah memberikan sekilas pemikiran di balik upaya OpenAI, menyeimbangkan menjaga ChatGPT dan alat AI lainnya tetap aman bagi jutaan orang, dan membela arsitektur dan pagar pembatas ChatGPT. “Kami perlu melindungi pengguna yang rentan, sekaligus memastikan pagar pembatas kami tetap memungkinkan semua pengguna mendapatkan manfaat dari alat kami.”
Terkadang Anda mengeluh tentang ChatGPT yang terlalu membatasi, dan kemudian dalam kasus seperti ini Anda mengklaim bahwa ChatGPT terlalu santai. Hampir satu miliar orang menggunakannya dan beberapa dari mereka mungkin berada dalam kondisi mental yang sangat rapuh. Kami akan terus melakukan yang terbaik untuk memperbaikinya dan kami merasa sangat besar… https://t.co/U6r03nsHzg20 Januari 2026
Setelah memuji protokol keamanan OpenAI dan kompleksitas dalam menyeimbangkan pengurangan dampak buruk dengan kegunaan produk, Altman menyiratkan bahwa Musk tidak berhak melontarkan tuduhan karena bahaya sistem Autopilot Tesla.
Dia mengatakan bahwa pengalamannya sendiri dengan hal itu sudah cukup untuk meyakinkannya bahwa itu “jauh dari aman untuk dirilis oleh Tesla.” Dalam pernyataan khusus yang ditujukan kepada Musk, dia menambahkan, “Saya bahkan tidak akan memulai dengan beberapa keputusan Grok.”
Ketika pertukaran ini terjadi di seluruh platform, yang paling menonjol bukanlah sikap miliarder yang biasa, melainkan sikap Altman yang luar biasa jujur mengenai apa sebenarnya yang dimaksud dengan keselamatan AI. Bagi OpenAI, sebuah perusahaan yang secara bersamaan menerapkan ChatGPT kepada anak-anak sekolah, terapis, pemrogram, dan CEO, mendefinisikan “aman” berarti menghubungkan antara kegunaan dan menghindari masalah, tujuan yang sering kali bertentangan.
Altman belum secara terbuka mengomentari tuntutan hukum kematian yang diajukan terhadap OpenAI. Namun, dia menegaskan bahwa mengakui adanya kerugian di dunia nyata tidak berarti menyederhanakan masalah secara berlebihan. AI mencerminkan masukan, dan responsnya yang terus berkembang membuat moderasi dan keselamatan memerlukan lebih dari sekadar persyaratan layanan biasa.
Perjuangan keamanan ChatGPT
OpenAI mengklaim telah bekerja keras untuk membuat ChatGPT lebih aman dengan versi yang lebih baru. Ada serangkaian fitur keselamatan yang dilatih untuk mendeteksi tanda-tanda tekanan, termasuk keinginan untuk bunuh diri. ChatGPT mengeluarkan penafian, menghentikan interaksi tertentu, dan mengarahkan pengguna ke sumber daya kesehatan mental ketika mendeteksi tanda-tanda peringatan. OpenAI juga mengklaim modelnya akan menolak untuk terlibat dengan konten kekerasan jika memungkinkan.
Publik mungkin berpikir ini adalah hal yang mudah, namun postingan Altman menunjukkan adanya ketegangan yang mendasarinya. ChatGPT diterapkan di miliaran ruang percakapan yang tidak dapat diprediksi dalam berbagai bahasa, budaya, dan keadaan emosi. Moderasi yang terlalu kaku akan membuat AI tidak berguna dalam banyak situasi seperti ini, namun terlalu banyak melonggarkan aturan akan melipatgandakan potensi risiko interaksi yang berbahaya dan tidak sehat.
Membandingkan AI dengan pilot mobil otomatis bukanlah analogi yang sempurna, meskipun ada komentar Altman. Meskipun demikian, orang dapat berargumen bahwa meskipun jalanan diatur, terlepas dari apakah manusia atau robot berada di belakang kemudi, perintah AI berada pada jalur yang lebih sulit. Tidak ada otoritas lalu lintas pusat tentang bagaimana chatbot harus merespons remaja yang berada dalam krisis atau menjawab seseorang dengan delusi paranoid. Dalam kekosongan ini, perusahaan seperti OpenAI dibiarkan membuat peraturan mereka sendiri dan menyempurnakannya dengan cepat.
Elemen pribadi juga menambahkan lapisan lain pada argumen tersebut. Perusahaan Altman dan Musk berada dalam perselisihan hukum yang berlarut-larut. Musk menggugat OpenAI dan Altman atas transisi perusahaan dari laboratorium penelitian nirlaba ke model keuntungan terbatas, dengan tuduhan bahwa dia disesatkan ketika dia menyumbangkan $38 juta untuk membantu mendirikan organisasi tersebut. Dia mengklaim perusahaan kini lebih mengutamakan keuntungan perusahaan dibandingkan kepentingan umum. Altman mengatakan perubahan ini diperlukan untuk membangun model kompetitif dan menjaga pengembangan AI pada jalur yang bertanggung jawab. Percakapan tentang keselamatan adalah aspek filosofis dan rekayasa dari perang di ruang rapat dan ruang sidang mengenai bagaimana seharusnya OpenAI.
Terlepas dari apakah Musk dan Altman menyetujui risiko tersebut atau tidak, atau bahkan berbicara secara sopan di dunia maya, semua pengembang AI sebaiknya mengikuti Altman dalam bersikap lebih transparan mengenai seperti apa keselamatan AI dan bagaimana mencapainya.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
Laptop bisnis terbaik untuk semua anggaran
