Perusahaan AI yang Terhormat: Doom Trolling Harus Dihentikan
Revolusi teknologi di era digital biasanya disertai dengan optimisme dan kegembiraan — ingat Steve Jobs yang mendapat tepuk tangan meriah saat ia memperkenalkan iPhone pada tahun 2007. Perusahaan-perusahaan AI besar tampaknya mengikuti strategi yang lebih gelap dan lebih aneh: Mereka suka menggambarkan dengan sungguh-sungguh kerugian yang akan ditimbulkan oleh model mereka, sambil bertindak tidak berdaya untuk melakukan apa pun. Anthropic baru-baru ini merilis sebuah strategi klasik: sebuah laporan yang terdengar menakutkan berjudul “Ketika AI membangun dirinya sendiri” yang mengklaim bahwa AI bisa semakin mendekati kemampuan tersebut tentang “merancang dan mengembangkan penerusnya sendiri secara mandiri.” Perusahaan ini berharap bahwa pengembangan diri yang dilakukan secara berulang-ulang ini akan membawa “kebaikan yang sangat besar” bagi dunia, namun mereka juga secara terbuka khawatir bahwa hal ini akan menyebabkan manusia “kehilangan kendali” atas sistem-sistem ini. Reaksi publik terhadap laporan ini terfokus pada bagian yang sepertinya menyerukan penghentian sementara pengembangan AI di seluruh dunia. Namun jika Anda membaca lebih cermat, menjadi jelas bahwa jeda sebenarnya bukanlah yang diusulkan Anthropic. Laporannya mengatakan bahwa “jika memungkinkan” untuk memperlambat teknologi, maka kita harus melakukannya, namun selama pelaku yang “paling tidak berhati-hati” maju dengan kecepatan penuh, hal ini menunjukkan bahwa Anthropic tidak punya pilihan selain melakukan hal yang sama. Seperti seekor kucing yang meninggalkan burung mati di depan pintu Anda, Anthropic membuat katalog masa depan suram yang mungkin dihasilkan oleh produk-produknya, mengangkat bahu dan kemudian kembali melakukan upaya keras untuk mewujudkan peringatan ini. Anthropic tidak sendirian dalam nihilisme ini. Sam Altman, CEO OpenAI, sering kali membuat klaim yang suram. Dia membandingkan upaya model bahasa besar yang dilakukan perusahaan tersebut dengan pengembangan bom atom, dan dia memposting gambar Death Star dari “Star Wars” di media sosial bersamaan dengan peluncuran GPT-5. Dia juga berkali-kali berargumentasi bahwa satu-satunya respons terhadap kerusakan ekonomi yang diakibatkan oleh alat AI adalah dengan memberikan dukungan keuangan skala besar dari pemerintah, seperti pendapatan dasar universal atau dana kekayaan publik. Kita sebut saja strategi ini sebagai “doom trolling.” Ini adalah salah satu sifat yang menentukan dan paling menarik dalam momen AI kita saat ini, dan saya yakin bahwa hal ini tidak dapat dipertahankan secara moral. Hanya ada dua pilihan atas niat perusahaan AI ketika mereka terlibat dalam trolling malapetaka. Yang pertama adalah mereka benar-benar percaya bahwa sistem yang mereka bangun mempunyai peluang yang sangat besar untuk menghasilkan peristiwa-peristiwa yang sangat mengganggu – mulai dari menghancurkan perekonomian dalam kondisi terbaik hingga memusnahkan spesies kita dalam kondisi terburuk. Jika hal ini benar, setiap sistem etika yang masuk akal akan berpendapat bahwa hanya ada satu tanggapan yang dapat diterima: segera berhenti mengerjakan produk apa pun yang dapat mempercepat masa depan, dan melobi dengan seluruh sumber daya Anda untuk membantu memaksa perusahaan AI lain melakukan hal yang sama. Dari sudut pandang moral, reaksi apa pun akan sangat mengerikan. Pilihan kedua adalah bahwa perusahaan-perusahaan AI ini tidak terlalu peduli dengan risiko-risiko ini, dan bahwa mereka memberikan dampak buruk yang tidak dapat diselesaikan karena alasan lain. Mereka mungkin ingin memperkuat persepsi kekuatan teknologi mereka pada saat mereka sedang menyiapkan penawaran umum perdana. Atau mereka berharap laporan performatif dan wawancara yang suram akan membantu mereka bersaing untuk mendapatkan talenta teknik terbaik yang berasal dari budaya Silicon Valley yang kaya akan malapetaka seperti ini. Pemodal ventura dan penasihat AI David Sacks baru-baru ini menyatakan bahwa Anthropic menggunakan taktik menyebarkan rasa takut sebagai metode “penangkapan peraturan”, yang dapat menghambat pesaing baru. Salah satu dari alasan-alasan ini berarti bahwa perusahaan-perusahaan ini menghilangkan kegelisahan jutaan orang untuk meningkatkan kekayaan finansial sejumlah kecil pemegang saham utama. Sinisme ini juga sama mengerikannya. Terkait AI, kita sudah terbiasa dengan ramalan yang tidak berdaya dan memicu stres sehingga kita lupa akan keanehannya. Bayangkan jika Ford Motor Company mengeluarkan laporan yang mengatakan bahwa mereka khawatir truk F-150 mereka yang populer akan segera terbakar, namun perusahaan tidak dapat berbuat apa-apa karena teknologi otomotif tidak bisa dihindari dan penting untuk diperlambat. Anda mungkin kesulitan membayangkan skenario ini karena tidak ada perusahaan produk konsumen yang beralasan akan bertindak seperti ini. Perusahaan AI bisa mulai berperilaku sama. Untuk melakukan hal ini, mereka harus berhenti memperlakukan AI sebagai suatu kekuatan yang tak terelakkan dan sulit untuk mereka atasi. Bukan itu. Ini adalah kumpulan alat khusus yang dipilih perusahaan untuk dirancang dan dijual sesuai dengan rencana bisnis tertentu. Oleh karena itu, mereka perlu membicarakan penawaran mereka seperti produk konsumen lainnya. Hal ini berarti menjelaskan dengan jelas untuk siapa produk-produk tersebut digunakan, menjelaskan manfaatnya, dan yang terpenting, bertanggung jawab penuh atas segala kerugian yang mungkin ditimbulkannya. Hanya karena AI saat ini menikmati kehebatan teknologi tinggi tidak menjadikannya luar biasa sehubungan dengan standar keselamatan yang masuk akal. Jika perusahaan-perusahaan AI ini bersikeras untuk terus berpura-pura bahwa mereka hanyalah pengamat yang tabah terhadap masa depan dystopian yang tidak dapat dihindari, mungkin inilah saatnya untuk memaksakan masalah ini. Sebagai konsumen, kita bisa menolak untuk memainkan permainan trolling malapetaka. Saat nanti Anthropic merilis laporan yang mengerikan, atau suara Sam Altman serak saat dia membayangkan gangguan yang ditimbulkan oleh OpenAI, kita dapat kembali ke pemikiran pragmatis: “Oke, tapi manfaat apa yang saya dapatkan dengan membelanjakan $1.000 sebulan untuk membeli token?” Jika mereka terus meningkatkan malapetaka, maka mungkin inilah saatnya untuk mengubah rasa takut menjadi ejekan: pseudosains yang sungguh-sungguh dari buku putih Anthropic sudah mendekati sindiran. Semangat yang ada saat ini seputar AI mendorong sikap rewel terhadap para pemimpin teknologi ini, namun hal ini bisa berubah dengan cepat. (The New York Times telah menggugat OpenAI dan mitranya, Microsoft, karena menuduh mereka melakukan pelanggaran hak cipta atas konten berita terkait sistem AI. OpenAI dan Microsoft telah membantah klaim tersebut.) Pemerintah juga dapat berperan dalam hal ini. Presiden Trump baru-baru ini menandatangani perintah eksekutif yang memungkinkan perusahaan AI untuk menyerahkan, secara sukarela, model penilaian risiko mereka sebelum dirilis. Program ini harus diwajibkan, dan pemerintah harus bersedia untuk menghentikan gertakan perusahaan mana pun yang membual tentang potensi destruktif dari produk-produknya, mengakhiri era di mana laboratorium AI ini dapat secara bersamaan menakuti masyarakat tentang teknologi mereka sambil terus mengembangkan dan memasarkannya tanpa kendala. Hebatnya, pemerintahan saat ini, dengan caranya sendiri yang berubah-ubah dan tidak dapat dipahami, mungkin akan mengarah ke arah ini. Pada bulan April, Anthropic mengumumkan bahwa mereka tidak akan merilis LLM Pratinjau Claude Mythos baru secara publik karena kemampuannya untuk menemukan dan mengeksploitasi bug perangkat lunak dapat menimbulkan dampak “parah” bagi perekonomian dan keselamatan kita. Mereka memutuskan untuk membaginya hanya dengan beberapa organisasi sehingga mereka dapat menambal kerentanan keamanan— sebuah kampanye yang memicu ketakutan dan kekhawatiran besar, namun juga meningkatkan merek Anthropic sebagai pemimpin yang sadar akan keselamatan dalam teknologi AI. Minggu lalu, perusahaan tersebut merilis versi model yang sekarang dilindungi dengan “pagar pembatas” untuk penggunaan umum dan versi lainnya dengan perlindungan yang dicabut di beberapa area yang diberikan kepada kelompok kecil. Pemerintahan Trump, dengan alasan kekhawatiran keamanan nasional, mengejutkan industri ini dengan melakukan perlawanan. Ini menempatkan model pada daftar kontrol ekspor, yang memaksa Anthropic untuk menonaktifkan akses sementara. Penafsiran yang lesu atas tindakan Anthropic adalah bahwa kekhawatiran mereka sebelumnya mengenai Mythos adalah sebuah aksi publisitas (tidak jelas mengapa “pagar pembatas” yang mereka tambahkan minggu lalu tidak dapat ditambahkan pada bulan April ketika model tersebut pertama kali diumumkan), yang membuat tindakan pemerintah tersebut, dalam beberapa hal, dianggap sebagai pelanggaran terhadap Anthropic. Laboratorium terdepan suka mengutip Tiongkok yang membenarkan tindakan mereka secepat mungkin, bebas dari tekanan peraturan yang berarti (meskipun beberapa, seperti Kepala eksekutif Anthropic, Dario Amodei, telah menyerukan peraturan). Namun mengelola risiko geopolitik adalah tugas pemerintah, bukan Silicon Valley. Ketika industri bioteknologi Amerika menjadi khawatir mengenai potensi negatif alat rekayasa genetika pada tahun 1990an, mereka tidak terburu-buru mengkloning manusia sebelum Tiongkok mencapai tujuan tersebut; mereka malah melobi Kongres dan badan-badan internasional terkait untuk membatasi kemungkinan-kemungkinan paling menjijikkan dari inovasi-inovasi ini. Kemungkinan pelaku lain melakukan tindakan buruk tidak memberi Anda hak moral untuk melakukan hal serupa. Pengadilan juga dapat menjadi sumber tekanan untuk mengubah cara perusahaan AI membicarakan produk mereka. Satu dekade yang lalu, para raksasa media sosial mendapati diri mereka berada dalam posisi yang sama dengan para pemimpin AI saat ini. Mereka berusaha untuk melepaskan tanggung jawab atas dampak negatif nyata yang ditimbulkan oleh aplikasi mereka dengan memperlakukannya sebagai sesuatu yang terlalu mendasar untuk dibatasi: alun-alun kota digital yang mewakili evolusi alami komunikasi dan demokrasi. Namun dalam putusan penting pada bulan Maret, juri memutuskan bahwa Meta dan Google bertanggung jawab atas kerugian jutaan dolar atas kerugian yang disebabkan oleh platform media sosial mereka. Ratusan tuntutan hukum serupa kini sedang diproses melalui sistem pengadilan, yang merupakan ancaman besar bagi perusahaan-perusahaan yang telah menghabiskan waktu bertahun-tahun untuk mendapatkan keuntungan tanpa mendapat hukuman dari rancangan mereka yang membuat ketagihan dan menyesatkan. Bisakah AI menghadapi tuntutan hukum serupa? Kami mendapat petunjuk pertama bahwa hal tersebut mungkin terjadi minggu lalu ketika pengadilan di Jerman memutuskan bahwa operator LLM bertanggung jawab atas teks yang dihasilkan model mereka. Kebiasaan perusahaan seperti Anthropic untuk mengeluarkan laporan yang menekankan bahayanya produk mereka mungkin merupakan keputusan yang akan menghantui mereka dalam proses hukum di masa depan. Sebagai ilmuwan komputer dan ahli etika digital, saya optimis terhadap kemungkinan AI dan juga bingung dengan cara yang menakutkan dan suram yang bersikeras dibicarakan oleh para pemimpin teknologi saat ini. Ini mungkin merupakan periode inovasi yang penuh harapan, namun emosi kita malah dimanipulasi oleh kecanduan Silicon Valley yang mementingkan diri sendiri dan secara moral tidak dapat dipertahankan terhadap trolling malapetaka. Strategi komunikasi ini harus dihentikan. Dampak buruk yang ditimbulkan AI terhadap kesehatan mental masyarakat bisa dibilang melebihi manfaat yang diberikan oleh AI sejauh ini. Ada beberapa tanda bahwa perilaku ini mulai berubah. Mungkin sebagai tanggapan terhadap laporan Anthropic tentang perbaikan diri secara rekursif, OpenAI merilis makalahnya sendiri, berjudul “Dibangun untuk memberi manfaat bagi semua orang: Rencana kami.” Mereka berargumen bahwa “mengotomatiskan segala sesuatunya bukanlah masa depan yang kita inginkan” dan bahwa tujuan perusahaan adalah menghasilkan teknologi yang membuat kehidupan masyarakat menjadi lebih baik, seperti hadirnya penerangan listrik di awal abad ke-20. Makalah ini berbunyi seperti standar pidato pemasaran yang terlalu optimis dan bersifat pemandu sorak yang biasa kita harapkan dari perusahaan teknologi besar. Tidak ada satu pun hal yang menggugah emosi saya atau melekat pada diri saya dengan cara yang berarti. Sungguh melegakan.
Diterbitkan : 2026-06-17 09:04:00
sumber : www.nytimes.com
