AI menciptakan masa depan yang penuh tantangan, dengan berbagai permasalahan yang ada Pencarian Mendalam peneliti senior Chen Deli yakin perusahaan teknologi adalah pihak yang paling cocok untuk menyelesaikan masalah ini. DeepSeek adalah salah satu startup AI terpanas di Tiongkok, meskipun ada beberapa yang menghadapinya politik Dan hambatan teknis, namun bagi sebuah startup yang menggemparkan pasar global dengan model AI berbiaya rendah yang memicu gelombang open-sourcing dari kompetitor seperti OpenAI, DeepSeek sangat sepi. Jadi ketika salah satu pemimpinnya memperingatkan bahwa AI dapat menghilangkan sebagian besar lapangan kerja dalam dua dekade mendatang dan menyebabkan gangguan besar yang belum siap dihadapi oleh masyarakat, masyarakat pun menaruh perhatian.
“Fase bulan madu” yang kita jalani saat ini akan berakhir, dan masyarakat akan menghadapi gelombang PHK yang cukup besar sehingga membentuk kembali kontrak dan institusi sosial. Dia membuatnya terdengar seperti Wabah Hitam yang tidak terlalu mematikan karena mengubah kehidupan masyarakat. Ini tentu saja bukan klaim yang paling aneh. Namun usulan Chen untuk menyelamatkan perusahaan terdengar sama tidak masuk akalnya dengan halusinasi AI mana pun.
Kata membentuk kembali saja seharusnya membuat tulang menjadi dingin. Dia secara efektif mengatakan bahwa perusahaan-perusahaan yang membangun alat-alat yang mungkin merugikan masyarakat juga harus bertanggung jawab merancang apa yang akan terjadi selanjutnya. Seolah-olah Oppenheimer telah meminta Proyek Manhattan untuk menulis konstitusi pascaperang, tetapi hanya setelah reaktor nuklir melakukan IPO di Wall Street. Saran tersebut tidak hanya naif. Ini sangat berbahaya.
AI telah menentukan apa yang kita lihat secara online, apa yang kita beli, dan bagaimana kita berperilaku, dengan perusahaan teknologi yang memonetisasi setiap bagian dari diri kita dan data kita semampu mereka. Gagasan mengenai perusahaan-perusahaan tersebut, yang terisolasi dari pengawasan yang berarti dan hanya terikat pada margin keuntungan, bertindak sebagai penjaga masyarakat yang kacau tanpa pamrih, adalah hal yang menggelikan. Bahkan, mereka sudah sangat jelas menyatakan bahwa mereka akan memprioritaskan pertumbuhan, pendapatan, dan segala hal lainnya di atas manusia dan proyek peradaban yang lebih luas, bahkan ketika dampak buruknya sudah jelas terlihat.
Kecerdasan manusia mengatur jenis buatan
Agar adil, regulator publik belum benar-benar membuat kita terpesona dengan kecepatan atau kecerdasan mereka. Undang-Undang AI di Uni Eropa merupakan langkah yang baik, namun tidak cukup, dan kerangka peraturan AS terfragmentasi dan sebagian besar bersifat reaktif. Rata-rata sidang kongres mengenai AI dipenuhi dengan kata-kata suram dan para eksekutif teknologi dengan sopan mengangguk kepada anggota parlemen yang tidak mengerti apa yang mereka bicarakan. Tiongkok, tempat DeepSeek bermarkas, lebih agresif di beberapa bidang, namun sulit untuk membantah bahwa kontrol otoriter terpusat adalah model tata kelola teknologi yang lebih baik. Kekhawatiran pengawasan dan keterbatasan bicara tidak mudah untuk diterima hanya karena ada manusia yang menandatangani peraturannya.
Regulasi yang ada saat ini tidak merata, tidak konsisten, dan sering kali terlalu lambat. Tapi itu tidak berarti jawabannya adalah menyerahkan kendali kepada pengembang seolah-olah mereka netral. Mereka bukan teman atau perwakilan Anda. Mereka tentu saja tidak cocok untuk menjadi penjaga fisik dan peradaban umat manusia. Mereka adalah pelaku komersial yang memiliki produk untuk dijual dan metrik triwulanan yang harus dicapai. Ketika ada dorongan untuk mendorong, mereka akan menghilangkan segala keraguan etis sampai mereka cocok dengan rapi di dalam dek geser.
Anda tidak dapat memitigasi kerugian ketika tindakan mitigasi itu sendiri mengancam model bisnis Anda. Jika sistem perekrutan yang didukung AI ternyata diskriminatif, perbaikannya membutuhkan biaya. Jika pembuat konten otomatis membanjiri web dengan lumpur berkualitas rendah, mematikannya akan memengaruhi pendapatan. Tidak ada insentif untuk melakukan hal yang benar kecuali seseorang memaksanya, dan pada saat itu, biasanya sudah terlambat.
Industri teknologi telah berulang kali menunjukkan bahwa mereka tidak mampu mengatur diri mereka sendiri dengan memprioritaskan kepentingan publik dibandingkan keuntungan pribadi. Faktanya, gagasan bahwa arsitek disrupsi juga harus bertanggung jawab untuk membangun apa yang menggantikan tatanan lama seharusnya membuat takut siapa pun yang pernah berada di pihak yang salah dalam algoritma platform.
Ini bukan anti kemajuan, tapi pro kemanusiaan
Hal ini tidak berarti bahwa AI tidak memiliki potensi yang luar biasa untuk kebaikan atau bahwa menuntut perlindungan berarti Anda anti-teknologi. Meskipun ada kebingungan mengenai istilah ini, perlu diingat bahwa kaum Ludd juga tidak menentang teknologi; mereka anti-eksploitasi. Protes mereka bukan mengenai alat tenun, namun mengenai pemilik pabrik yang menggunakan alat tenun tersebut untuk melemahkan tenaga kerja terampil dan menerapkan kondisi kerja yang menyedihkan.
Chen Deli benar saat membunyikan alarm, tapi salah dalam menentukan siapa yang harus membunyikan bel. Pelapor cenderung tidak muncul dari ruang rapat. Kami belum memiliki kerangka kerja yang koheren mengenai tata kelola AI yang bertanggung jawab. Kita punya bagian-bagiannya, tapi tidak ada jaringan penghubung yang bisa membuat ide-ide tersebut melekat, dan kita tidak punya keberanian politik untuk memaksakannya pada orang-orang yang mempunyai kekuasaan paling besar.
Meski begitu, saya tidak sepenuhnya pesimis. Kerangka kerja yang kita butuhkan mungkin ada. Hal ini dapat dibangun oleh koalisi pemerintah, masyarakat sipil, peneliti independen, dan bahkan beberapa suara penting dari dunia teknologi. Namun hal tersebut hanya akan terjadi jika cukup banyak orang yang memintanya.
Jika dekade berikutnya benar-benar membawa transformasi seperti yang diperkirakan Deli, kita memerlukan lebih dari sekadar janji-janji perusahaan. Kita memerlukan peraturan yang tegas untuk menjaga keselamatan dan martabat umat manusia tanpa berusaha menjadikannya produk untuk dijual.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
Laptop bisnis terbaik untuk semua anggaran
