Anthropic Berpikir Kesuksesannya Adalah Kunci Membuat AI Aman
Anthropic telah menghabiskan waktu lima tahun terakhir untuk memperingatkan dunia tentang bagaimana kecerdasan buatan yang canggih dapat menyebabkan kehancuran massal, mengganggu stabilitas masyarakat, dan menyebabkan banyak kerusakan serius lainnya. Namun secara bersamaan, hal ini telah menjadi salah satu kekuatan paling kuat yang mendorong kemampuan AI ke depan. Perusahaan ini kini menjadi salah satu pengembang dan distributor terkemuka model AI mutakhir dan memikat pelanggan seperti militer AS. Baru-baru ini nilainya mencapai hampir $1 triliun. Sekilas, pesan-pesan Anthropic yang gamblang dan tindakan-tindakannya pada dasarnya tampak bertentangan. Namun di dalam perusahaan, banyak orang tidak melihat adanya kontradiksi. Untuk memahami alasannya, pertama-tama Anda harus memahami bahwa Anthropic beroperasi berdasarkan dua keyakinan inti. Yang pertama adalah bahwa kecerdasan buatan adalah teknologi paling transformatif dalam sejarah manusia, dan kehadirannya tidak bisa dihindari. Satu-satunya pertanyaan nyata adalah apakah hal ini mengarah pada bencana atau kemakmuran yang luar biasa. Yang kedua adalah Anthropic percaya bahwa dunia akan menjadi lebih baik jika tetap berada di garis depan perlombaan AI, menurut beberapa mantan karyawan yang berbicara dengan WIRED tanpa menyebut nama. Secara internal, para pemimpin dan karyawan di perusahaan sering menyebut diri mereka sebagai “orang baik”, yang berarti mereka yang bertanggung jawab dalam mengelola teknologi AI, kata dua sumber tersebut. Perusahaan melihat akumulasi kekuatan—baik dalam bentuk modal, komputasi, bakat penelitian, atau pengaruh politik—bukan sebagai tujuan akhir, namun sebagai harga untuk memenuhi misinya: “untuk memastikan dunia melakukan transisi dengan aman melalui AI yang transformatif.” Helen Toner, direktur eksekutif Pusat Keamanan dan Teknologi Berkembang di Georgetown dan mantan anggota dewan OpenAI, menggunakan analogi untuk menggambarkan pandangan dunia Anthropic. Dia membandingkan AI yang kuat dengan hutan yang dipenuhi harta magis dan monster berbahaya. Semua penduduk desa di dekatnya bergegas masuk, terpikat oleh harta karun itu. Dalam ceritanya, Anthropic ingin menjelajah lebih jauh ke dalam hutan dibandingkan orang lain sambil berinvestasi besar dalam menjinakkan monster—yakni, memanfaatkan AI sambil menahan risiko bencana. “Yang membedakan Anthropic adalah mereka seperti, ‘Lagi pula, orang-orang tetap pergi ke hutan, kita harus melakukannya terlebih dahulu.’ Hal ini secara eksplisit merupakan strategi mereka: membangun AI mutakhir agar menjadi pemain serius yang dapat mendiskusikan seperti apa sistem AI mutakhir, risiko apa yang ditimbulkannya, dan mendorong upaya perlindungan yang wajar,” kata Toner kepada saya. “Mereka sangat berterus terang mengenai hal ini. Ini hanya sebuah strategi yang cukup aneh sehingga orang sulit mendengarnya.” CEO Anthropic Dario Amodei menguraikan pendekatan ini dengan jelas dalam percakapan dengan para pendirinya yang diposting di halaman karir perusahaan: “Anda harus menemukan cara untuk benar-benar menjadi kompetitif, untuk benar-benar memimpin industri dalam beberapa kasus, namun tetap berhasil melakukan segala sesuatunya dengan aman,” katanya. “Jika Anda bisa melakukan itu, tarikan gravitasi yang Anda keluarkan akan sangat besar.” Anthropic didirikan pada tahun 2021 oleh sekelompok mantan karyawan OpenAI yang membelot setelah kehilangan kepercayaan terhadap kemampuan pimpinan perusahaan—khususnya CEO Sam Altman—untuk menghadirkan AI transformasional ke dunia dengan aman. Sentimen tersebut masih membentuk perusahaan hingga saat ini. Dua mantan karyawan yang saya ajak bicara mengatakan bahwa, dalam diskusi internal, para eksekutif Anthropic sering menggambarkan Altman dan OpenAI—dan, pada tingkat lebih rendah, xAI Meta dan Elon Musk—sebagai contoh peringatan yang membantu mendefinisikan rasa tanggung jawab Anthropic sendiri. Dalam banyak hal, Anthropic sama seperti perusahaan Silicon Valley lainnya. Banyak startup yang memasarkan diri mereka sebagai David yang melawan para raksasa industri yang ingin mereka ganggu. Google, Facebook, dan Apple semuanya didirikan berdasarkan prinsip-prinsip idealis, yang kemudian menjadi kabur atau ditinggalkan sama sekali ketika mereka menjadi lebih kaya, lebih besar, dan lebih berpengaruh.
Diterbitkan : 2026-06-26 00:49:00
sumber : www.wired.com
