- CEO Anthropic Dario Amodei tidak ingin Claude digunakan oleh Pentagon untuk pengawasan domestik massal dan senjata otonom
- Sebuah pernyataan mengungkapkan alasan Anthropic mempertahankan jalur keselamatan Claude
- Pete Hegseth memberi Anthropic waktu hingga hari Jumat untuk memberikan akses penuh kepada Departemen Pertahanan
CEO Antropis Dario Amodei telah merilis sebuah pernyataan mengenai perselisihan yang sedang berlangsung antara perusahaan dan Departemen Pertahanan AS.
Amodei menyatakan Anthropic “dengan hati nurani tidak dapat menyetujui” permintaan Departemen Pertahanan untuk memberikan akses penuh terhadap model AI-nya, karena khawatir model tersebut dapat digunakan untuk ‘pengawasan domestik massal’ dan ‘senjata yang sepenuhnya otonom’.
Menteri Pertahanan AS Pete Hegseth telah mengancam untuk menyebut Anthropic sebagai “risiko rantai pasokan” dan meminta Undang-Undang Produksi Pertahanan untuk memaksa perusahaan mematuhinya.
Ancaman yang belum pernah terjadi sebelumnya terhadap Anthropic
Dalam pernyataannya, Amodei mengatakan Anthropic secara historis memiliki hubungan yang sangat baik dengan pemerintah AS, termasuk menjadi perusahaan AI pertama yang menerapkan modelnya dalam jaringan pemerintah AS, Laboratorium Nasional, dan yang pertama menerapkan model untuk keamanan nasional.
Amodei juga mencatat bahwa perusahaan tersebut telah mematuhi peraturan AS mengenai penggunaan dan penjualan model AI ke Tiongkok, hingga mereka memilih untuk “melepaskan pendapatan beberapa ratus juta dolar” dengan mencegah penggunaan Claude oleh Partai Komunis Tiongkok.
“Anthropic memahami bahwa Departemen Perang, bukan perusahaan swasta, yang membuat keputusan militer,” lanjut Amodei. “Namun, dalam beberapa kasus, kami yakin AI dapat melemahkan, bukannya mempertahankan, nilai-nilai demokrasi.”
Namun keraguan untuk memberikan Departemen Pertahanan akses penuh ke Claude menyebabkan potensi penyalahgunaan model tersebut untuk dua tujuan jahat.
Peraturan seputar AI belum mampu mengimbangi kemampuan model AI seperti Claude, kata Amodei, yang memungkinkan pemerintah AS menggunakan Claude sebagai alat pengawasan domestik massal.
Secara teoritis, pemerintah dapat membeli catatan yang sangat rinci dan menggunakan model AI untuk mengaturnya menjadi gambaran yang sangat akurat mengenai warga AS pada skala yang belum pernah ada sebelumnya.
Mengenai penggunaan AI dalam sistem persenjataan, Amodei mengatakan bahwa hal tersebut “mungkin terbukti penting bagi pertahanan nasional kita,” namun ia berpendapat bahwa model AI saat ini “tidak cukup dapat diandalkan untuk menggerakkan senjata yang sepenuhnya otonom.” Jika model AI yang bertanggung jawab atas sistem senjata otonom mengalami halusinasi, tanggung jawab kemungkinan besar akan berada pada pengembang model.
Amodei juga membahas ancaman yang dibuat oleh Hegseth, dengan menyatakan bahwa ancaman tersebut “pada dasarnya bertentangan: yang satu menyebut kita sebagai risiko keamanan; yang lain menyebut Claude sebagai hal yang penting bagi keamanan nasional.”
Pernyataan tersebut menyimpulkan bahwa “preferensi kuat Anthropic adalah untuk terus melayani Departemen dan prajurit kami—dengan dua perlindungan yang kami minta.”
“Jika Departemen Pertahanan memilih untuk tidak menggunakan Anthropic, kami akan berupaya untuk memungkinkan transisi yang lancar ke penyedia lain, menghindari gangguan apa pun terhadap perencanaan militer, operasi, atau misi penting lainnya yang sedang berlangsung. Model kami akan tersedia dengan jangka waktu luas yang telah kami usulkan selama diperlukan.”
Perlindungan pencurian ID terbaik untuk semua anggaran
