Pengujian Anthropic mengungkapkan sistem rahasia pemerintah AS memiliki kerentanan, kata sumber anonim
Seorang pejabat AS mengatakan kepada Associated Press pada hari Selasa bahwa salah satu model kecerdasan buatan Anthropic telah mengidentifikasi kerentanan dalam sistem komputer pemerintah AS yang sangat sensitif dan aman selama latihan pengujian. Pejabat tersebut, yang berbicara tanpa menyebut nama untuk membahas masalah ini, mengatakan Anthropic telah bekerja sama dengan badan intelijen AS untuk melakukan pengujian menggunakan model Mythos milik perusahaan. Pejabat tersebut mengatakan bahwa pengujian tersebut dilakukan melalui inisiatif Anthropic yang disebut Project Glasswing, yang menyatukan raksasa teknologi dan perusahaan lain dengan harapan dapat mengamankan perangkat lunak penting dunia dari dampak “parah” yang dapat ditimbulkan oleh model Mythos terhadap keselamatan publik, keamanan nasional, dan perekonomian. Senator Demokrat Mark Warner dari Virginia telah secara singkat menyebutkan pengujian tersebut pada sidang tanggal 11 Juni di hadapan Komite Senat untuk Perbankan, Perumahan, dan Urusan Perkotaan. Warner pernah berkata, “Alat ini membobol hampir semua sistem rahasia kami, bukan dalam hitungan minggu tapi dalam hitungan jam.” Ia mengaitkan informasi tersebut dengan kepala Badan Keamanan Nasional dan Komando Siber AS, Jenderal Joshua Rudd. NSA menolak berkomentar mengenai masalah ini melalui email. Seorang juru bicara Anthropic juga menolak berkomentar. Meskipun ada kerja sama baru-baru ini antara Anthropic dan lembaga-lembaga AS untuk menguji kerentanan, ketegangan antara perusahaan California dan pemerintahan Trump terus meningkat. Anthropic telah menimbulkan kekhawatiran mengenai bagaimana militer AS akan menggunakan AI-nya, sementara pemerintah telah membatasi penggunaan beberapa model Anthropic. Pemerintah mengeluarkan arahan awal bulan ini yang mewajibkan Anthropic untuk mencegah warga negara asing menggunakan model kecerdasan buatan terbarunya, yang dikenal sebagai Fable 5 dan Mythos 5. Anthropic merilis Fable secara luas pada awal bulan ini. Model tersebut adalah versi terbatas dari Mythos yang lebih canggih, yang aksesnya sangat terbatas bagi perusahaan karena kekhawatiran terhadap keamanan siber. Petunjuk tersebut dikeluarkan 10 hari setelah Presiden Donald Trump menandatangani perintah eksekutif untuk menetapkan kerangka kerja bagi pemerintah federal untuk memeriksa risiko keamanan nasional dari sistem AI paling canggih hingga satu bulan sebelum dirilis ke publik. Partisipasi pengembang AI bersifat sukarela, kata perintah itu. Anthropic mengatakan pihaknya menonaktifkan model untuk semua pelanggannya untuk mematuhi arahan pemerintah. Raksasa AI ini mengatakan bahwa mereka tidak percaya bahwa langkah yang diambil oleh pemerintah tersebut dibenarkan oleh kekhawatiran yang mereka tunjukkan mengenai potensi masalah keamanan. Sekelompok eksekutif keamanan siber juga telah meminta pemerintahan Trump untuk mencabut arahannya, dengan mengatakan bahwa tindakan tersebut dapat lebih membantu musuh-musuh AS daripada merugikan mereka. Lebih dari 100 pakar keamanan siber dan pemimpin dari berbagai perusahaan termasuk Adobe dan Nvidia mengatakan kepada pemerintah melalui surat bahwa model Mythos dari Anthropic “cukup baik” dalam menemukan kelemahan dalam perangkat lunak dan mempersenjatai eksploitasi – namun model tersebut “tidak secara khusus bagus dalam tugas-tugas ini.” Surat tersebut menyatakan bahwa berbahaya untuk menghilangkan kemampuan pertahanan siber terbaik “tanpa alasan yang kuat” ketika musuh Amerika sedang maju pesat.—Ben Finley, Associated PressBergabunglah dengan kami di New York City pada bulan September ini untuk menghadiri Fast Company Innovation Festival tahunan. Tiket dengan harga lebih tinggi tersedia sekarang hingga Minggu, 12 Juli. Dapatkan tiket festival Anda hari ini.
Diterbitkan : 2026-06-24 16:22:00
sumber : www.fastcompany.com
