Florida menggugat OpenAI dan Sam Altman atas dugaan pelanggaran keamanan
Gugatan tersebut, yang diajukan di pengadilan negara bagian Florida pada hari Senin, menuduh OpenAI dan CEO-nya, Sam Altman, gagal memperingatkan pengguna bahwa ChatGPT bisa berbahaya dan malah memasarkannya sebagai sesuatu yang aman dan dapat diandalkan, termasuk untuk anak-anak. Justin Sullivan/Getty Images sembunyikan keterangan toggle caption Justin Sullivan/Getty Images Florida menuduh OpenAI dan CEO-nya Sam Altman lebih mengutamakan keuntungan daripada keselamatan, dalam gugatan pertama yang diajukan oleh negara terhadap pembuat ChatGPT atas dugaan kekurangan chatbot. Gugatan tersebut, yang diajukan di pengadilan negara bagian Florida pada hari Senin, mengklaim perusahaan dan Altman gagal memperingatkan pengguna bahwa ChatGPT bisa berbahaya dan malah memasarkannya sebagai produk yang aman dan dapat diandalkan, termasuk untuk anak-anak. Ini adalah upaya terbaru dalam upaya yang berkembang di seluruh negeri untuk meminta pertanggungjawaban perusahaan kecerdasan buatan ketika dampak buruk terjadi setelah interaksi pengguna dengan chatbots. Gugatan tersebut menuduh OpenAI membantu dan bersekongkol dengan para pelaku penembakan massal, termasuk seorang penembak di Florida State University yang diduga menggunakan ChatGPT untuk merencanakan serangannya, mendorong orang-orang yang rentan untuk melakukan bunuh diri, dan membuat anak-anak kecanduan “pada alat yang berpura-pura memiliki kasih sayang manusia untuk mengumpulkan data mereka tanpa pengawasan orang tua.” “Serangkaian kerugian ini didorong oleh upaya tak terpuaskan dari Tergugat untuk memenangkan perlombaan senjata AI dan mengumpulkan kekayaan besar, meski mengetahui bahaya ChatGPT,” kata tuntutan tersebut. “Kebangkitan OpenAI disebabkan oleh jaringan penipuan dan eksploitasi pengguna (termasuk warga Florida), yang memanfaatkan data dan keamanan mereka untuk meningkatkan nilai pasar OpenAI dengan biaya yang tidak dapat diterima.” Florida juga berupaya meminta pertanggungjawaban Altman secara pribadi. “Sam Altman dan ChatGPT telah memilih perlombaan AI daripada keselamatan dan keamanan anak-anak kita,” kata Jaksa Agung Florida James Uthmeier pada konferensi pers pada hari Senin. Dia menambahkan bahwa dia yakin Altman dan perusahaannya dapat dikenakan denda “yang berpotensi mencapai miliaran dolar”. “Kehilangan seorang anak adalah tragedi paling menyedihkan yang bisa terjadi pada sebuah keluarga dan kami tahu bahwa tidak ada kata-kata yang bisa mengatasi rasa sakit dari kehilangan tersebut,” kata juru bicara OpenAI Kayla Wood dalam pernyataan emailnya kepada NPR. “AI adalah teknologi baru dan kuat, dan kami yakin anak di bawah umur membutuhkan perlindungan yang signifikan, itulah sebabnya kami menerapkan perlindungan dan kebijakan terdepan di industri,” lanjut pernyataan tersebut. “Khususnya kami membangun keamanan bagi anak di bawah umur langsung ke dalam produk kami, termasuk pengalaman yang lebih protektif khususnya bagi anak di bawah umur, alat prediksi usia, menetapkan pengguna yang usianya tidak kami yakini untuk menerima pengalaman yang lebih protektif, dan memberikan alat kepada orang tua untuk memantau penggunaan AI oleh anak-anak mereka.” Gugatan tersebut menuduh perlindungan OpenAI, termasuk kontrol orang tua, tidak memadai dan bahwa perusahaan tersebut telah menciptakan “gangguan publik yang berbahaya.” Halaman pertama gugatan dimulai dengan tangkapan layar dari situs OpenAI yang mengatakan ChatGPT “dibangun dengan mempertimbangkan keselamatan”. Gambar tersebut diikuti dengan catatan kaki yang berbunyi: “Tidak begitu.” Kantor Uthmeier secara terpisah melakukan penyelidikan kriminal terhadap OpenAI atas dugaan konsultasi ChatGPT oleh penembak FSU menjelang serangan April 2025. Lebih dari 20 tuntutan hukum telah diajukan terhadap OpenAI atas kerugian yang diduga berasal dari penggunaan ChatGPT, termasuk oleh keluarga korban yang terbunuh dan terluka dalam penembakan massal di sebuah sekolah di Tumbler Ridge, Kanada, pada bulan Februari, keluarga korban yang terbunuh dalam penembakan FSU, dan keluarga dari tujuh orang, termasuk seorang remaja, yang meninggal karena bunuh diri atau menderita delusi setelah menggunakan chatbot. Altman meminta maaf kepada komunitas Tumbler Ridge pada bulan April, dan OpenAI mengatakan sebagai tanggapan atas tuntutan hukum tersebut bahwa mereka memiliki kebijakan “tidak ada toleransi” dalam menggunakan alatnya untuk membantu melakukan kekerasan. Setelah Uthmeier mengumumkan penyelidikannya terhadap penembakan FSU, juru bicara OpenAI mengatakan bahwa chatbot tersebut “memberikan tanggapan faktual terhadap pertanyaan dengan informasi yang dapat ditemukan secara luas di sumber-sumber publik di internet, dan tidak mendorong atau mempromosikan aktivitas ilegal atau berbahaya.” Pernyataan tersebut melanjutkan: “Kami terus berupaya memperkuat upaya perlindungan kami untuk mendeteksi niat berbahaya, membatasi penyalahgunaan, dan merespons dengan tepat ketika risiko keselamatan muncul.” OpenAI menyebut tuntutan hukum atas kasus bunuh diri dan delusi sebagai “situasi yang sangat memilukan” dan mengatakan bahwa pihaknya bekerja sama dengan pakar kesehatan mental untuk meningkatkan cara ChatGPT merespons tanda-tanda tekanan mental atau emosional. Perusahaan AI lainnya juga berada di bawah pengawasan hukum atas dugaan bahwa chatbot mereka menyebabkan kerugian. Menanggapi tuntutan hukum atas kematian yang tidak wajar atas bunuh diri seorang pria Florida yang terhubung dengan chatbot Gemini Google, perusahaan tersebut mengatakan: “Gemini dirancang untuk tidak mendorong kekerasan di dunia nyata atau menyarankan tindakan menyakiti diri sendiri. Model kami secara umum bekerja dengan baik dalam jenis percakapan yang menantang seperti ini dan kami mencurahkan banyak sumber daya untuk hal ini, namun sayangnya model tersebut tidak sempurna.” Ia menambahkan bahwa Gemini telah “merujuk individu tersebut ke hotline krisis berkali-kali.” Pada bulan Januari, Character.AI menyelesaikan beberapa tuntutan hukum yang diajukan oleh keluarga yang mengklaim bahwa chatbot pendampingnya berkontribusi terhadap bunuh diri dan krisis kesehatan mental di kalangan anak-anak dan remaja. Perusahaan tersebut mengatakan bahwa mereka “telah mengambil langkah-langkah inovatif dan tegas sehubungan dengan keselamatan AI dan remaja, dan akan terus memperjuangkan upaya-upaya ini dan mendorong pihak lain di industri untuk mengadopsi standar keselamatan serupa.” Hal ini termasuk melarang pengguna berusia di bawah 18 tahun untuk berinteraksi atau membuat chatbot. Bulan lalu, negara bagian Pennsylvania menggugat Character.AI, menuduh chatbotnya menyamar sebagai dokter dan menawarkan nasihat medis, yang melanggar aturan perizinan medis negara bagian. Seorang juru bicara Character.AI mengatakan kepada NPR pada saat itu bahwa perusahaan tersebut tidak mengomentari proses pengadilan yang tertunda, namun “prioritas tertingginya adalah keselamatan dan kesejahteraan pengguna kami.”
Diterbitkan : 2026-06-01 19:52:00
sumber : www.npr.org
