Bagaimana pemerintah memutuskan model frontier OpenAI aman untuk dirilis?
OpenAI meluncurkan LLM canggih terbarunya, Sol, untuk akses publik luas. Sol dianggap setidaknya setara dengan Anthropic’s Fable, sebuah model yang kemampuan (atau kepemilikannya) cukup menekankan Gedung Putih sehingga sempat dilarang untuk diakses publik. Jadi bagaimana model ini mendapat izin untuk dirilis? Jawaban singkatnya: Tidak ada yang yakin. “Sejujurnya, saya tidak memiliki visibilitas terhadap proses yang sebenarnya, jadi ya, saya merasa tidak memiliki cukup informasi untuk mengatakan apakah proses tersebut memadai atau tidak,” Mina Narayanan, analis riset senior di Pusat Keamanan dan Teknologi Berkembang Georgetown, mengatakan kepada TechCrunch. “Anthropic mengatakan bahwa mereka sedang melakukan percakapan dengan pemerintah, dan bahwa mereka mengembangkan pengklasifikasi untuk mendeteksi upaya jailbreak, dan mereka telah menerapkan strategi pertahanan mendalam untuk mencegah jailbreak di masa depan, namun seperti apa dialog antara pemerintah dan Anthropic dan OpenAI masih belum jelas.” Dean W. Ball, mantan penasihat kebijakan Trump yang sekarang bekerja untuk OpenAI, menulis bahwa “tidak ada yang tahu apa persyaratan untuk mendapatkan lisensi” dalam buletinnya bulan lalu. Andy Konwinski, ilmuwan komputer yang ikut mendirikan Databricks, Perplexity, dan Laude Institute, mengatakan dia tidak pernah berbicara dengan siapa pun yang memahami prosesnya, bahkan dengan karyawan di laboratorium perbatasan. “Ini pada dasarnya merupakan masalah,” katanya kepada TechCrunch. “Keselamatan atau tidak, ini tentang siapa yang mempunyai kekuasaan untuk membuat keputusan – siapa yang menjaga dan memutuskan izin?” Delapan belas bulan setelah pemerintahan Trump, masih ada sedikit kejelasan tentang bagaimana langkah selanjutnya, meskipun – atau, menurut beberapa kritikus, karena – sudah ada tokoh-tokoh industri yang menentukan kebijakan. Bulan lalu, setelah pertikaian selama berminggu-minggu, sebuah perintah eksekutif diterbitkan yang memuat peta jalan untuk mengevaluasi model-model perbatasan, namun rinciannya masih belum dipenuhi, selain hal-hal yang tidak akan ada. “Tidak akan ada FDA untuk AI,” Sriram Krishnan, mantan mitra Andreessen Horowitz yang menjabat sebagai penasihat senior AI di Gedung Putih hingga bulan lalu, mengatakan kepada Financial Times. Khususnya, masih belum ada kesepakatan mengenai model apa saja yang memerlukan pengawasan pemerintah, atau badan atau lembaga mana yang harus melakukan evaluasi tersebut. Untuk saat ini, Pusat Standar dan Inovasi AI di Departemen Perdagangan tampaknya yang memimpin, namun perintah eksekutif tersebut menginstruksikan enam lembaga kabinet untuk menentukan proses akhir pada awal Agustus. Apa yang muncul sementara ini, paling-paling hanya bersifat ad hoc. CEO OpenAI Sam Altman mengatakan di CNBC bahwa proses tersebut melibatkan percakapan dengan para pejabat seperti Menteri Perdagangan Howard Lutnick, Menteri Keuangan Scott Bessent, dan direktur siber nasional AS Sean Cairncross, namun tidak jelas siapa ahli yang menguji model tersebut atau bagaimana mereka melakukannya. OpenAI menolak untuk berbagi rincian proses pemerintah dengan TechCrunch, namun menunjuk pada hasil beberapa evaluasi eksternal oleh organisasi seperti UK AISI, SecureBio, dan Irregular dalam kartu keselamatan model terbaru. Seperti peluncuran Fable Anthropic, OpenAI meninjau model tersebut untuk pemerintah dan memilih pengguna sebelum rilis yang lebih luas, namun kami tidak tahu siapa saja pengguna tersebut atau bagaimana mereka dipilih. Dalam postingan blognya pada akhir bulan Juni, perusahaan tersebut mengatakan “kami tidak percaya proses akses pemerintah seperti ini harus menjadi standar jangka panjang,” dan mengatakan bahwa mereka akan bekerja sama dengan pemerintah untuk mengembangkan jalur yang berbeda ke depan. Namun, latar belakang percakapan tersebut adalah Altman dilaporkan menawarkan sebanyak 5% ekuitas OpenAI untuk apa yang disebut “Akun Trump” milik pemerintah, dan peran presiden OpenAI Greg Brockman sebagai donor terbesar yang diketahui publik untuk operasi politik jangka menengah Trump. Sulit bagi pengamat luar untuk memisahkan kegiatan-kegiatan tersebut dari pendekatan pemerintah yang tampaknya lebih ringan dalam mengatur Sol. Di sisi lain, Anthropic’s Fable sempat ditarik dari akses yang lebih luas ketika pemerintah AS melarang penggunaannya oleh warga negara asing, sebagian karena kekhawatiran nyata tentang pengguna yang melakukan jailbreak pada model tersebut untuk mengakses kemampuan peretasan dan sebagian lagi karena bentrokan kepribadian antara Anthropic dan pemerintahan Trump. Ancaman larangan ekspor mungkin juga membuat OpenAI menjadi lebih kooperatif terhadap permintaan pemerintah (yang tidak diketahui). Dari sudut pandang industri, pendekatan lepas tangan terhadap regulasi mungkin bagus, namun pendekatan yang bergantung pada hubungan pribadi dengan pejabat pemerintah akan menciptakan ketidakpastian dan insentif yang buruk. Konwinski mengatakan kepada TechCrunch bahwa dia khawatir para ahli sejati dalam teknologi ini – “peneliti keselamatan, peneliti penyelarasan, peneliti interpretabilitas, tetapi juga orang-orang data, dan orang-orang dari seluruh penjuru” – tidak cukup berperan dalam proses rilis model. Konwinski berpendapat bahwa “kebersamaan yang terbuka” adalah cara terbaik untuk menyeimbangkan keselamatan dan inovasi. Dia menunjuk pada model seperti FDA, NIH, atau laboratorium nasional, yang mengumpulkan para peneliti, pejabat pemerintah, dan perusahaan swasta untuk mencapai konsensus mengenai masalah keselamatan. Beberapa di antaranya disebabkan oleh insentif kapitalisme yang telah memotivasi para peneliti AI selama lebih dari satu dekade, dan terjadi di ruang sidang selama gugatan Elon Musk menantang struktur perusahaan OpenAI. Ball menunjukkan bahwa sifat bisnis AI mengharuskan perusahaan untuk menutup sebagian besar biaya pelatihan mereka segera setelah model mereka dirilis dan lebih unggul dalam persaingan. “Meskipun niat mereka baik, terdapat kewajiban hukum dan tanggung jawab fidusia yang sangat jelas yang tertanam dalam prosedur operasi,” kata Konwinski. Ball, dalam postingannya, berpendapat bahwa masa depan akan bergantung pada organisasi audit pihak ketiga, yang diberi izin oleh pemerintah, yang akan mengevaluasi pendekatan laboratorium terdepan terhadap keselamatan. Konwinski juga optimis terhadap format kelembagaan baru seperti organisasi penelitian terfokus yang dapat membantu lebih banyak pakar yang tidak tertarik dari akademisi dan dunia nirlaba mengakses dan mengevaluasi model frontier. Untuk saat ini, kerahasiaan seputar pengembangan AI masih belum hilang, namun hal ini juga akan menimbulkan tantangan politik bagi industri yang semakin dipandang skeptis oleh masyarakat Amerika. “Tidak ada perasaan bahwa orang-orang yang bertanggung jawab mendorong perubahan ini,” kata profesor ilmu komputer Universitas Wisconsin-Madison Remzi Arpaci-Dusseau pekan lalu di konferensi Open Frontier. Pada acara yang sama, David Siegel, ilmuwan komputer yang mendirikan Two Sigma, salah satu dana lindung nilai kuantitatif paling sukses, meminta peserta untuk “membayangkan sebuah situasi, yang menurut saya akan sangat buruk, (di mana) sejumlah kecil perusahaan mengendalikan teknologi; pemerintah, di laboratorium rahasia mereka, sedang mengevaluasi apakah teknologi tersebut layak untuk digunakan atau tidak; dan masyarakat umum serta komunitas ilmiah tidak benar-benar memiliki akses terhadap hal-hal tersebut.” Sepertinya kita tidak perlu membayangkannya. Saat Anda membeli melalui tautan di artikel kami, kami mungkin mendapat komisi kecil. Hal ini tidak mempengaruhi independensi editorial kami.
Diterbitkan : 2026-07-09 18:22:00
sumber : techcrunch.com
