CEO Anthropic menyerukan regulasi model AI yang kuat seperti FAA: apa yang harus diketahui perusahaan
Dalam esai baru berjudul “Kebijakan tentang AI Exponential,” salah satu pendiri dan CEO Anthropic, Dario Amodei secara terbuka menyerukan peraturan pemerintah baru yang mengatur peluncuran model AI yang kuat – khususnya membandingkan industri AI dengan penerbangan komersial, yang mengikuti peraturan yang diberlakukan oleh Administrasi Penerbangan Federal AS (FAA) – dengan alasan bahwa hal ini diperlukan untuk menjaga keselamatan publik seiring dengan meningkatnya kemampuan AI dan potensi penyalahgunaan. Bersamaan dengan esai tersebut, Anthropic merilis dua peta jalan kebijakan yang komprehensif: Kerangka Kerja AI Tingkat Lanjut yang menargetkan model bencana risiko, dan Kerangka Kebijakan Ekonomi untuk mengatasi perpindahan tenaga kerja yang didorong oleh AI yang didukung oleh pendanaan baru sebesar $350 juta. Waktunya sangat penting: kemarin, Anthropic merilis model rilis umum paling kuat yang pernah ada, Claude Fable 5, dan versi yang lebih terjaga keamanannya dan diperbarui dari model dasar Claude Mythos, yang sekarang dikenal sebagai Claude Mythos 5, yang menawarkan kemampuan cyber defensif dan ofensif yang canggih. Seperti yang dikemukakan Amodei di X setelah peluncurannya: “Anthropic telah lama menganjurkan persyaratan transparansi untuk AI terdepan, karena risikonya belum cukup jelas untuk diatur secara tepat. Hal tersebut tidak lagi cukup”.Bagi pengambil keputusan teknis, CIO, dan arsitek perusahaan, esai ini bukan sekadar pernyataan politik—ini adalah tinjauan mengenai batasan operasional, peraturan, dan tenaga kerja yang akan mengatur teknologi perusahaan generasi berikutnya. Berikut adalah tiga hal penting yang perlu diambil oleh para pemimpin perusahaan dari kebijakan terbaru Anthropic jatuhkan.1. Model Frontier Mungkin Menghadapi Penahanan Penerapan “Gaya FAA” Selama tiga tahun terakhir, perusahaan telah membangun produk dengan asumsi bahwa kemampuan AI API hanya akan bergerak ke satu arah: lebih cepat dan lebih bertenaga. Kerangka Kerja AI Tingkat Lanjut Anthropic memperkenalkan variabel baru: embargo peraturan. Amodei secara eksplisit membandingkan rezim peraturan AI yang diperlukan dengan Federal Aviation Administration (FAA), dengan menyatakan: “Model AI perbatasan, seperti pesawat terbang, harus melalui pengujian dan audit teknis, dan pelepasannya harus diblokir atau dibatalkan karena merupakan ancaman terhadap keselamatan publik jika tidak memenuhi standar keselamatan yang tinggi”. Perusahaan mengusulkan agar model dilatih menggunakan lebih dari 10^25 operasi floating-point (FLOP)—atau dikembangkan oleh perusahaan dengan pendapatan AI lebih dari $500 juta atau penelitian dan pengembangan AI senilai $1 miliar—harus menjalani pengujian wajib oleh pihak ketiga. Jika model-model ini menimbulkan risiko biologis, keamanan siber, atau otonomi yang parah, pemerintah mempunyai kewenangan hukum untuk memblokir, menunda, atau menghalangi penerapan model-model tersebut. Implikasi bagi Perusahaan: Jika perusahaan Anda melisensikan model dasar untuk infrastruktur inti, Anda harus merencanakan volatilitas rantai pasokan. Pembaruan model yang sangat dinanti dari vendor AI dapat ditunda tanpa batas waktu oleh regulator, atau model yang sudah ada dapat dicabut jika pengujian pasca-rilis menunjukkan adanya ancaman otonom. Para pemimpin teknologi harus merancang arsitektur multi-model yang menghindari penguncian pada satu vendor, memastikan kelangsungan bisnis jika model andalan suatu penyedia diblokir oleh lembaga federal.2. Keamanan Siber di Sekitar AI Saat Ini Menjadi Infrastruktur Penting Dorongan anthropic terhadap regulasi sangat dimotivasi oleh meningkatnya ancaman keamanan siber yang didorong oleh AI baru-baru ini. Amodei secara eksplisit merujuk pada Claude Mythos Preview milik Anthropic, yang mencatat bahwa kemampuannya untuk menemukan kerentanan dengan tingkat keparahan tinggi di seluruh sistem operasi utama “mengacaukan” lanskap keamanan siber global. Berdasarkan kerangka kerja yang diusulkan Anthropic, mengamankan lingkungan pengembangan AI adalah hal yang terpenting. Pengembang Frontier akan diminta untuk melindungi bobot model mereka dari serangan siber eksternal dan ancaman dari dalam. Selain itu, perusahaan harus mengembangkan saluran untuk melaporkan “serangan penyulingan model”—di mana pesaing atau pelaku kejahatan menggunakan model utama untuk melatih model tiruan yang lebih murah dan tidak selaras. Implikasi Perusahaan: Taruhannya terhadap keamanan perusahaan ada dua. Pertama, kemampuan pertahanan AI akan menjadi prasyarat; seperti yang diperingatkan oleh Amodei, penyerang yang menggunakan model perbatasan untuk menyelidiki kerentanan akan melampaui pertahanan tradisional yang dipimpin oleh manusia. Kedua, perusahaan yang menyempurnakan model open-weight atau menghosting instance kepemilikan secara lokal kemungkinan besar akan menghadapi beban kepatuhan dan infosec baru yang besar. Memperlakukan bobot model sebagai rahasia perusahaan yang sangat rahasia akan menjadi standar industri baru.3. Rencana Pergantian Tenaga Kerja Secara Struktural, Bukan Hanya Efisiensi Mungkin aspek yang paling serius dari pengumuman ini adalah Kerangka Kebijakan Ekonomi Anthropic. Perusahaan ini secara terbuka mengakui bahwa jika AI mencapai kemampuan yang diharapkan, AI akan bertindak sebagai “pengganti tenaga kerja secara umum” dan bukan sekadar alat produktivitas. Amodei menyatakan hal ini secara blak-blakan: “Tantangan utama di dunia seperti ini bukanlah memberikan insentif pada pertumbuhan, namun menemukan cara bagi semua orang untuk ikut merasakan manfaatnya”. Untuk mendukung hal ini, Anthropic memberikan komitmen sebesar $350 juta untuk mengatasi gangguan ekonomi: $200 juta untuk Dana Penelitian Masa Depan Ekonomi (Economic Futures Research Fund) untuk merintis solusi kebijakan publik, dan $150 juta untuk program beasiswa nasional. Kerangka kerja ini secara aktif merencanakan skenario di mana AI mendorong pengangguran hingga 5%, 10%, atau bahkan tingkat yang belum pernah terjadi sebelumnya, dan mendukung kebijakan seperti asuransi upah, pendapatan dasar universal, dan model kekayaan negara. Implikasi Perusahaan: Bagi para pemimpin teknologi dan departemen SDM, transisi AI akan menjadi ladang ranjau dalam hubungan perburuhan. Kerangka ekonomi tersebut mencatat bahwa perusahaan “dapat memilih untuk melakukan pelatihan ulang dan penempatan kembali dibandingkan mengurangi jumlah pegawai,” namun mengakui bahwa tindakan sukarela bukanlah pengganti tanggapan pemerintah. Perusahaan yang ingin mengintegrasikan AI secara mendalam harus segera mulai menerapkan rencana transisi tenaga kerja. Para pemimpin yang memandang AI semata-mata sebagai mekanisme untuk memotong biaya dengan cepat melalui PHK akan segera menemukan diri mereka berhadapan dengan “insentif pro-pekerjaan” baru atau kebijakan pajak retensi yang diusulkan oleh para pendukung untuk memperlambat perpindahan pekerjaan. Yang Harus Dilakukan Perusahaan Sekarang Pengumuman Anthropic menandai titik balik dalam dialog industri AI dengan Washington dan pasar global. Seperti yang diungkapkan Amodei: “Banyak dari gagasan kebijakan ini memiliki daya tarik yang masuk akal di seluruh spektrum politik, dan semakin cepat kita menindaklanjutinya, semakin cepat semua orang merasakan manfaat AI”. Bagi perusahaan, pesannya jelas: era “bergerak cepat dan menghancurkan segalanya” dalam AI generatif sudah berakhir. Era kepatuhan yang ketat, keamanan sistemik, dan transisi tenaga kerja yang kompleks akan segera tiba. Untuk mempersiapkan peralihan ini, perusahaan harus terlebih dahulu memisahkan strategi AI mereka dari ketergantungan pada vendor tunggal. Jika model andalan tiba-tiba diblokir atau ditarik kembali berdasarkan usulan kewenangan regulasi bergaya FAA, organisasi yang bergantung pada API spesifik tersebut akan langsung menghadapi kelumpuhan operasional. Para pemimpin TI harus membangun arsitektur multi-model yang memungkinkan mereka menukar model dasar dengan lancar, sehingga memastikan kelangsungan bisnis dalam ekosistem yang diatur dengan ketat. Kedua, pengambil keputusan teknis harus meningkatkan infrastruktur AI ke tingkat keamanan siber yang kritis. Dengan sistem AI terdepan yang kini mampu menemukan kerentanan perangkat lunak dengan tingkat keparahan tinggi dalam skala besar, permukaan ancaman berkembang pesat. Perusahaan yang menyempurnakan model atau menampungnya secara internal harus mengunci lingkungan pengembangan mereka dari ancaman eksternal dan internal, sesuai dengan standar keamanan ketat yang dituntut Anthropic dari industri yang lebih luas. Terakhir, tim kepemimpinan memerlukan strategi ketenagakerjaan yang proaktif, bukan reaktif. Anthropic secara eksplisit memperingatkan agar tidak menggunakan AI semata-mata untuk menghemat biaya melalui PHK, sehingga mendorong perusahaan untuk secara aktif mencari kasus penggunaan baru yang memungkinkan mereka mempertahankan dan melatih kembali tenaga kerja yang ada. Ketika pemerintah berpotensi menerapkan insentif pajak yang pro-ketenagakerjaan dan kebijakan asuransi upah untuk memperlambat perpindahan pekerjaan, perusahaan-perusahaan yang secara agresif mengurangi jumlah karyawannya untuk mendanai adopsi AI mungkin akan berada pada posisi yang tidak menguntungkan baik dalam sentimen publik maupun peraturan ekonomi yang akan datang.
Diterbitkan : 2026-06-10 19:50:00
sumber : venturebeat.com
