Anthropic mengusulkan perlambatan global dalam pengembangan AI
Anthropic mengatakan AI berkembang begitu cepat, trennya mengarah pada sistem yang mampu mengembangkan penerusnya sendiri. Kami belum sampai pada tahap tersebut, namun mereka percaya bahwa hal ini “akan terjadi lebih cepat dari apa yang dipersiapkan oleh sebagian besar institusi.” Dalam postingan blognya, Anthropic menjelaskan bahwa AI yang dapat dibangun sendiri dapat “membawa manfaat besar bagi dunia” antara lain di bidang sains dan perawatan kesehatan. Namun, hal ini juga mungkin “meningkatkan risiko hilangnya kendali manusia atas sistem AI.” Jadi bagaimana umat manusia dapat mencegah Skynet menjadi nyata? Anthropic berpendapat bahwa jawabannya adalah perlambatan global atau penghentian sementara pengembangan AI “untuk memungkinkan struktur masyarakat dan penyelarasan penelitian mengimbangi kemajuan teknologi.” Perusahaan ini adalah salah satu nama terkemuka dalam perlombaan AI saat ini, dan tidak seperti pesaingnya yang belum menghasilkan uang, perusahaan ini dilaporkan berada di jalur yang tepat untuk meraih keuntungan pada kuartal pertamanya. Baru-baru ini mereka mengajukan dokumen ke SEC untuk go public, kemungkinan sebelum tahun ini berakhir. Seperti yang dicatat oleh The Wall Street Journal, para kritikus berpendapat bahwa peringatan Anthropic mengenai teknologinya adalah taktik pemasaran, mungkin dalam upaya untuk membuatnya terlihat paling tidak mengerikan di antara semua perusahaan AI atau untuk membuatnya tampak seolah-olah produknya adalah yang terbaik di luar sana. Kritikus secara khusus menunjuk pada rilis terbatas model AI keamanan siber Mythos sebagai contoh. Anthropic mengatakan pihaknya membuat Mythos tersedia untuk sekelompok mitra terpilih karena potensi kerusakan yang dapat ditimbulkan oleh kemampuannya untuk mengidentifikasi kerentanan dengan cepat jika berada di tangan yang salah. Namun banyak yang mengira itu hanya taktik untuk menghebohkan produk atau menutupi fakta bahwa Anthropic hanya ingin menjualnya ke perusahaan terbesar. Namun perlu dicatat bahwa saran perusahaan ini didasarkan pada temuan Anthropic Institute, sebuah divisi penelitian yang didirikan pada bulan Maret. Anthropic mengatakan saat itu bahwa peran lembaga ini adalah untuk “memberi tahu dunia” apa yang mereka pelajari tentang tantangan yang muncul ketika perusahaan AI mengembangkan sistem AI yang lebih canggih. Lembaga ini, bersama dengan kolaboratornya, akan melakukan penelitian tentang apa yang diperlukan untuk “membangun sistem yang memerlukan perlambatan atau jeda yang kredibel.” Jika perusahaan-perusahaan AI menyetujui perlambatan ini, maka harus ada mekanisme yang dapat memverifikasi bahwa mereka semua benar-benar menghentikan atau memperlambat pengembangan AI. Jika tidak, beberapa orang mungkin akan lebih unggul dari yang lain setelah mengembangkan teknologi mereka secara rahasia. “Perlambatan atau jeda yang berarti memerlukan banyak laboratorium yang memiliki sumber daya yang baik di atau dekat perbatasan, di banyak negara, untuk setuju untuk berhenti dalam kondisi yang sama,” tulis Anthropic. “Hal ini juga mengharuskan masing-masing pihak dapat memverifikasi bahwa pihak lain benar-benar telah berhenti.” Saran mereka hanya akan terwujud jika semua perusahaan AI di seluruh dunia dapat bersatu dan berjanji untuk menghentikan pengembangan AI untuk sementara waktu. Anthropic mengatakan hal itu bukan tidak mungkin, dengan mengutip perjanjian senjata nuklir sebagai contoh, meskipun mereka mengakui bahwa perjanjian tersebut telah dibuat selama beberapa dekade. Kita tidak mempunyai waktu yang lama, mengingat perkembangan AI mengalami kemajuan yang sangat pesat. Perusahaan berencana mengadakan pembicaraan dengan pembuat kebijakan, peneliti, dan perusahaan AI lainnya dalam beberapa bulan mendatang mengenai masalah ini dan akan mempublikasikan hasil pembicaraan tersebut.
Diterbitkan : 2026-06-05 09:19:00
sumber : www.engadget.com
