- Hampir seribu karyawan Google dan OpenAI menandatangani surat terbuka yang menyerukan batasan yang jelas mengenai penggunaan AI oleh militer
- Surat tersebut mendesak perusahaan-perusahaan teknologi untuk menolak rencana pemerintah mengenai pengawasan AI dan senjata otonom
- Langkah ini mencerminkan meningkatnya ketegangan dalam industri AI terkait kontrak pemerintah dan kemitraan pertahanan
Hampir seribu karyawan Google dan OpenAI telah menandatangani surat terbuka mendesak perusahaan mereka untuk menolak tekanan dari militer AS untuk melonggarkan pembatasan mengenai bagaimana sistem AI dapat digunakan. Surat tersebut menyatakan “Kami Tidak Akan Terpecah belah” mengenai masalah ini, bahkan setelah Pentagon menetapkan Anthropic sebagai “risiko rantai pasokan setelah perusahaan tersebut menolak untuk mengizinkan teknologinya digunakan untuk pengawasan massal dalam negeri atau senjata yang sepenuhnya otonom.
Langkah ini mengejutkan banyak pengamat di Silicon Valley dan memicu gelombang kekhawatiran di kalangan para insinyur yang membangun model AI terdepan saat ini. Terutama karena OpenAI dan Google dilaporkan sedang bernegosiasi untuk menerima pengaturan yang ditolak oleh Anthropic.
Para penandatangan membingkai pesan mereka dalam bahasa yang sangat blak-blakan untuk industri yang terkenal dengan komunikasi korporatnya yang hati-hati. Surat tersebut menuduh pejabat pemerintah berupaya menekan perusahaan AI agar mengabaikan batasan etika tertentu.
“Mereka mencoba memecah belah perusahaan dengan rasa takut bahwa perusahaan lain akan menyerah. Strategi itu hanya akan berhasil jika tidak ada di antara kita yang tahu di mana posisi perusahaan lain,” tulis surat itu. “Surat ini berfungsi untuk menciptakan pemahaman bersama dan solidaritas dalam menghadapi tekanan dari Departemen Perang.”
Surat terbuka ini penting karena menyertakan orang-orang dari perusahaan pesaing yang biasanya bersaing ketat. Argumen yang mereka ajukan adalah bahwa AI kini sudah cukup kuat sehingga keputusan mengenai penggunaannya tidak dapat dianggap sebagai perjanjian bisnis rutin.
Kekhawatiran ini tidak sepenuhnya bersifat teoretis. Pemerintah di seluruh dunia sedang menjajaki bagaimana AI dapat diintegrasikan ke dalam perencanaan pertahanan dan analisis intelijen. Badan-badan militer telah lama menggunakan perangkat lunak untuk pengawasan dan penargetan. Model generatif tingkat lanjut dapat mempercepat kemampuan tersebut secara signifikan. Dan ketika penelitian mulai menunjukkan bagaimana AI lebih menyukai teknologi tersebut opsi nuklir dalam permainan perang, membiarkannya mengendalikan senjata dan sistem pengawasan sepertinya merupakan ide yang lebih buruk.
perang AI
Hal ini merupakan sebuah kemunduran bagi para pekerja Google, ribuan di antaranya memprotes keterlibatan perusahaan tersebut dalam rencana Proyek Maven Pentagon untuk menggunakan pembelajaran mesin untuk menganalisis rekaman drone pada tahun 2018. Setelah reaksi internal yang luas, Google akhirnya membiarkan kontrak tersebut berakhir dan menerbitkan serangkaian pedoman etika yang dikenal sebagai Prinsip AI-nya.
Prinsip-prinsip tersebut dimaksudkan untuk menentukan bagaimana Google akan melakukan pendekatan terhadap penggunaan kecerdasan buatan yang sensitif. Pada saat itu, perusahaan tersebut menyatakan tidak akan mengembangkan teknologi yang dirancang untuk menimbulkan kerugian atau memungkinkan pengawasan yang melanggar norma internasional. Surat terbuka terbaru menunjukkan bahwa ketegangan serupa muncul kembali ketika pemerintah semakin tertarik untuk menerapkan model bahasa yang kuat.
Surat tersebut mungkin dapat mengubah keputusan perusahaan atau tidak, namun setidaknya para pekerja dapat menganggapnya sebagai pesan yang tidak dapat disalahartikan.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
Laptop bisnis terbaik untuk semua anggaran
