Bagaimana pemerintah otoriter memutarbalikkan keamanan AI untuk memaksa perusahaan teknologi agar mematuhinya
Ketika para peneliti mendirikan Anthropic pada tahun 2021, mereka mengatakan perlombaan untuk membangun AI yang kuat berjalan terlalu sembrono. Mereka memasukkan langkah-langkah keselamatan yang terperinci ke dalam produk mereka dan memasarkan komitmen mereka terhadap keselamatan sebagai kualitas perusahaan yang membedakan mereka dari pesaing—terutama OpenAI, perusahaan pesaing yang mereka tinggalkan. Pada bulan Maret 2026, reputasi tersebut diuji ketika pemerintahan Trump menyatakan bahwa Anthropic adalah risiko rantai pasokan. Perusahaan tersebut menolak untuk menghapus perlindungan bawaan yang melarang pengawasan domestik dan senjata otonom dari produk yang dipasoknya ke Pentagon. Presiden Donald Trump memerintahkan pemerintah federal untuk berhenti menggunakan Anthropic dan model bahasa besarnya, Claude, yang menyebut perusahaan tersebut sebagai risiko keamanan nasional. Dalam beberapa jam, OpenAI malah membuat kesepakatan untuk menjadi pemasok Pentagon. Terlepas dari pendirian Anthropic yang jelas, selama perselisihannya dengan Trump, perusahaan tersebut diam-diam membatalkan prinsip-prinsip yang mengikat dalam kebijakan keselamatan utamanya. Beberapa minggu sebelumnya, kepala penelitian perlindungan Anthropic telah mengundurkan diri, memperingatkan bahwa “dunia sedang dalam bahaya.” Dan seminggu setelah Pentagon secara resmi melarang Claude, militer AS masih menggunakan teknologi tersebut untuk memilih dan menargetkan lokasi yang akan dibom di Iran. Sebagai seorang filsuf yang mempelajari supremasi hukum dan demokrasi, saya menemukan bahwa tata kelola teknologi yang otoriter seringkali tidak melibatkan sensor langsung. Sebaliknya, hal ini justru mendelegitimasi perlindungan yang dimaksudkan, meracuni segala peraturan eksternal, dan bahkan pengaturan mandiri sukarela yang menyimpang dari tujuan atau nilai-nilai rezim tersebut. Pemerintahan Trump, yang mengikuti pedoman otoriter, berpendapat bahwa standar keamanan AI dan pembatasan pengguna merupakan pemaksaan ideologis, bukan keputusan rekayasa yang baik. Perintah eksekutif “Mencegah Woke AI” tertanggal 23 Juli 2025, tidak mengubah apa yang boleh dilakukan perusahaan terhadap produk mereka. Dengan memberikan label “terbangun” (woke) pada perlindungan etika dasar, pemerintah membuat perlindungan tersebut menjadi mahal secara politis untuk dipertahankan. Brennan Center, sebuah organisasi advokasi dan kebijakan hukum, telah mendokumentasikan bagaimana etika AI didefinisikan ulang melalui negosiasi kontrak. Dalam kasus-kasus ini, pemerintah mempersenjatai istilah-istilah seperti bias untuk mendiskualifikasi perusahaan-perusahaan yang mempertahankan perlindungan hak-hak sipil agar tidak bersaing untuk mendapatkan kontrak federal. Dilema yang Ditahan Satu kontrak AI dari Departemen Pertahanan AS dapat bernilai miliaran dolar. Hal ini juga dapat memberikan akses terhadap data yang tidak dapat dimiliki oleh perusahaan swasta dan membuka peluang kerja pemerintah lebih lanjut. Perusahaan yang menjaga batasan etika berisiko kalah dengan pesaing yang tidak menerapkannya.
Diterbitkan : 2026-06-07 08:00:00
sumber : www.fastcompany.com
