Zap // Nightcafe Studio
Mahasiswa universitas elit di Amerika Serikat, seperti MIT dan Harvard, meninggalkan studi untuk bekerja penuh waktu untuk mencegah kecerdasan buatan umum – AI yang akan mengatasi kecerdasan manusia – untuk berbalik melawan kemanusiaan.
Pada saat banyak mahasiswa menyerahkan kursus Bergabunglah dengan startup AISeorang mantan siswa MIT mengatakan dia telah meninggalkan kursus karena dia takut bahwa sesuatu yang terjadi pada bencana: bahwa AI super manusia akan sepenuhnya menghilangkan ras manusia.
“Khawatir-aku tidak hidup lulus karena kecerdasan buatan umum, ”kata Alice Blair, yang mendaftar di MIT pada tahun 2023, dalam sebuah laporan oleh Forbes.
“Saya pikir dalam sebagian besar skenario, karena cara kami bekerja menuju AGR, Hasilnya adalah kepunahan manusia“, Dikatakan.
Blair sekarang bekerja di organisasi nirlaba Pusat Keselamatan AIdan tidak ada rencana untuk kembali ke MIT. Dia berharap bertemu orang lain yang tertarik untuk membuat IA aman, tetapi tampaknya kecewa. “Saya memperkirakan masa depan saya di dunia nyata.”
Juga Nikola Jurkovic, Seorang mantan mahasiswa Harvard memiliki pandangan gelap tentang masa depannya. “Jika karier Anda akan otomatis pada akhir dekade, maka setiap tahun terakhir di universitas Ini adalah setahun yang dikurangi dengan karier singkat Anda“.
“Secara pribadi saya pikir itu setuju Mungkin empat tahun lagi Dan otomatisasi ekonomi lengkap mungkin lima atau enam, ”kata Jurković.
Blair dan Jurković bukan satu -satunya siswa yang takut akan dampak yang berpotensi menghancurkan yang akan saya miliki di masa depan kemanusiaan jika itu menjadi rasa dan memutuskan bahwa orang mengambil lebih banyak pekerjaan dari yang sebenarnya layak.
Menurut a laporan Departemen Luar Negeri AS Dirilis pada 2024, Pemerintah AS harus bertindak “dengan cepat dan tegas” Untuk menghindari risiko substansial bagi keamanan nasional yang timbul dari AI, yang dapat, di yang terburuk, menyebabkan “ancaman kepunahan terhadap spesies manusia”.
Namun, banyak ahli skeptis, bahwa kami hampir membangun model AI yang kuat, dan menunjukkan sinyal terbaru bahwa peningkatan teknologi Mereka mencapai level.
“Itu sangat tidak mungkin May Age muncul dalam lima tahun ke depan, ”kata Gary Marcus, seorang penyelidik AI dan seorang kritikus industri yang dinyatakan sebagai Forbes.” Itu hanya Pemasaran untuk berpura -pura sebaliknyaKetika begitu banyak masalah utama, seperti halusinasi dan kesalahan penalaran tetap terselesaikan. “
Dan meskipun ada bentuk yang sangat konkret yang dapat menyebabkan kerusakan, Gagasan kepunahan total agak jauhkata Marcus. Jauh sebelum itu, kita harus khawatir tentang dampak AI pada pekerjaan kita dan pada lingkungan.
Sebenarnya, Industri AI tertarik di mana seseorang percaya pada ramalan akhir dunia AI, yang menciptakan gagasan bahwa Teknologi jauh lebih mampu Apa yang saat ini – dan memungkinkan Anda untuk mengontrol narasi tentang bagaimana teknologi harus diatur.
