AS Melonggarkan Pembatasan Model AI Mythos Anthropic
Anthropic dan pemerintahan Trump mencapai kesepakatan pada hari Jumat untuk mengembalikan salah satu model kecerdasan buatan perusahaan yang paling kuat, setelah negosiasi yang menegangkan selama berhari-hari. Dalam surat yang dikirim ke Anthropic, Departemen Perdagangan memberikan izin kepada perusahaan San Francisco untuk memulihkan akses beberapa klien ke model Mythos 5, yang dibatasi pemerintah dua minggu lalu karena masalah keamanan nasional. Pembicaraan masih berlangsung untuk memulihkan akses ke model Anthropic kuat lainnya, Fable 5, dan untuk memberikan Mythos ke lebih banyak organisasi, kata seseorang. akrab dengan pembicaraan tersebut, yang berbicara dengan syarat anonimitas karena orang tersebut tidak diizinkan untuk membahasnya secara publik. “Anthropic telah bekerja dengan pemerintah AS untuk mengatasi risiko yang terkait dengan model yang dicakup,” kata surat itu, yang dikirim oleh Menteri Perdagangan Howard Lutnick ke Anthropic pada hari Jumat. “Upaya ini telah menghasilkan kemajuan yang signifikan.” Mr. Lutnick menambahkan bahwa Anthropic telah berkomitmen untuk bekerja sama dengan pemerintah AS mengenai protokol untuk peluncuran model AI di masa depan. Juru bicara Anthropic mengatakan bahwa perusahaan tersebut berupaya memulihkan akses ke klien yang disetujui oleh pemerintah dan “senang melihat kemajuan ini dan terus bekerja sama dengan pemerintah.” Namun hal ini mungkin tidak banyak meredakan kekhawatiran bahwa pemerintah berniat mengambil peran yang lebih aktif dalam peluncuran sistem AI baru. Berdasarkan kesepakatan tersebut, Anthropic setuju untuk memberikan perlindungan pada model AI-nya dengan imbalan memulihkan akses ke ratusan klien. Departemen Perdagangan tiba-tiba memberi tahu perusahaan tersebut pada tanggal 12 Juni bahwa mereka memiliki waktu 90 menit untuk menonaktifkan Mythos dan Fable. Anthropic kemudian menemukan bahwa kekhawatiran pemerintah berasal dari makalah yang diterbitkan oleh para peneliti Amazon yang menunjukkan dugaan adanya kelemahan keamanan. Para peneliti mampu membujuk model AI untuk mengungkapkan kelemahan dalam potongan kode perangkat lunak yang rentan. Amazon tidak menyertakan pengujian model dari perusahaan AI lain, yang beberapa di antaranya mampu menghasilkan informasi yang sama, kata pakar keamanan siber yang telah melihat atau diberi pengarahan mengenai laporan tersebut. Tidak jelas apakah pemerintah akan sepenuhnya mencabut pembatasan terhadap Anthropic, atau membuat proses yang lebih formal yang dapat diikuti oleh perusahaan AI lain untuk menghindari masalah serupa. Anthropic dan pemerintahan Trump pertama kali terlibat perselisihan pada awal tahun ini. Kontrak Pentagon senilai $200 juta untuk AIPerusahaan dan Pentagon tidak setuju mengenai bagaimana teknologi tersebut harus digunakan dalam peperangan. Hal ini menyebabkan Menteri Pertahanan Pete Hegseth menyebut Anthropic sebagai “risiko rantai pasokan” pada bulan Februari. Penunjukan tersebut, yang berarti perusahaan tersebut menimbulkan risiko terhadap keamanan nasional, tidak pernah digunakan untuk melawan perusahaan Amerika. Pada bulan Maret, Anthropic menggugat pemerintah atas label tersebut. Anthropic merilis Mythos pada bulan April kepada sekelompok kecil perusahaan dan peneliti. Perusahaan AI tersebut mengatakan bahwa model AI barunya sangat efektif dalam menemukan kerentanan dalam perangkat lunak, sehingga meningkatkan kekhawatiran di kalangan peneliti keamanan dan pejabat pemerintah bahwa model tersebut dapat digunakan dalam serangan siber. Anthropic menindaklanjuti dengan Fable, yang dikatakan memiliki apa yang disebut pagar pembatas yang akan membatasi apa yang dapat dilakukan pengguna dengannya. Namun para peneliti berspekulasi bahwa batasan tersebut dapat dengan mudah dipatahkan, seperti yang terjadi pada sebagian besar sistem AI lainnya. Ketika pemerintah memerintahkan Anthropic untuk menghentikan model barunya, beberapa orang di perusahaan tersebut mempertanyakan apakah perusahaan tersebut dipilih secara tidak adil. Namun minat pemerintah dalam mengelola peluncuran model AI tampaknya semakin meningkat. Sebelumnya pada hari Jumat, OpenAI, saingan utama Anthropic, meluncurkan teknologi AI yang disebut GPT-5.6 Sol, dengan mengatakan bahwa teknologi tersebut cocok dengan kinerja Mythos pada pengujian benchmark standar yang digunakan oleh perusahaan AI. OpenAI mengatakan pada awalnya akan berbagi teknologi hanya dengan sejumlah kecil perusahaan yang disetujui oleh pemerintah. “Kami tidak percaya proses akses pemerintah seperti ini harus menjadi standar jangka panjang,” kata perusahaan itu dalam sebuah posting blog. “Ini menjaga alat-alat terbaik dari pengguna, pengembang, perusahaan, pembela dunia maya, dan mitra global yang membutuhkannya. Kami mengambil langkah jangka pendek ini karena kami percaya ini adalah jalan terkuat menuju ketersediaan yang lebih luas.” secara sukarela membagikan modelnya kepada pemerintah federal untuk ditinjau. OpenAI, Anthropic, Google, xAI, dan Microsoft semuanya setuju untuk menyerahkan model mereka ke kelompok keamanan AI milik pemerintah, yang dikenal sebagai Pusat Standar dan Inovasi AI. Di bawah pengawasan Mr. Lutnick, pusat ini didirikan oleh pemerintahan Biden untuk memeriksa model AI dan memiliki staf teknis untuk memimpin evaluasi tersebut. Cade Metz, Tripp Mickle, dan Tyler Pager berkontribusi dalam pelaporan.
Diterbitkan : 2026-06-27 00:54:00
sumber : www.nytimes.com
