Seorang profesor AI di Berkeley membuat argumen provokatif yang memperlambat penelitian AI
Selamat datang di AI Decoded, buletin mingguan Fast Company yang menguraikan berita paling penting di dunia AI. Anda dapat mendaftar untuk menerima buletin ini setiap minggu melalui email di sini. Mengapa esai Emma Pierson menyebabkan kehebohan. Esai Emma Pierson baru-baru ini di The Atlantic, “Saya Lebih Suka Risiko Kanker Daripada Melihat AI Bergerak Secepat Ini,” tentu saja telah membangkitkan opini yang kuat di komunitas kecerdasan buatan minggu ini. Para akselerasionis di X, khususnya, tampaknya terpicu oleh hal tersebut. Pierson adalah peneliti AI yang mengajar pembelajaran mesin di program ilmu komputer kebanggaan di University of California, Berkeley. Dia juga membawa mutasi gen yang dapat meningkatkan risiko kanker ovarium atau payudara. Faktanya, indung telurnya baru-baru ini diangkat untuk mengurangi kemungkinannya terkena penyakit tersebut. Argumennya bukanlah bahwa AI tidak akan pernah membantu menyembuhkan kanker. Sistem AI generalis besar yang sedang dikembangkan di laboratorium seperti Anthropic, OpenAI, dan Google mungkin suatu hari nanti dapat membantu mengalahkan penyakit, namun sistem tersebut juga membawa risiko sosial yang lebih besar, termasuk pengangguran massal, kesenjangan, pengawasan, dan pengembangan senjata. “(Saya) akan menunggu sedikit lebih lama untuk mendapatkan kesembuhan—bahkan jika itu berarti kehilangan kesuburan dan hidup di bawah bayang-bayang risiko—jika hal ini memungkinkan kita mendekati dunia baru ini dengan lebih hati-hati,” tulisnya. Tulisan Pierson dengan cepat menarik perhatian, dan kemudian kemarahan, ribuan aktivis AI di X. Lagi pula, dia menantang salah satu argumen mereka yang paling berharga, yaitu bahwa upaya apa pun selain berupaya keras menuju model AI yang kuat adalah tindakan yang tidak berperikemanusiaan karena dapat membuat jutaan orang yang menderita kanker dan penyakit lainnya tidak mendapatkan kesempatan untuk mendapatkan kesembuhan. menyembuhkan. Dalam manifestonya pada tahun 2023, Marc Andreessen menulis: “Kami percaya setiap perlambatan AI akan memakan korban jiwa. Kematian yang dapat dicegah oleh AI yang dapat dicegah adalah bentuk pembunuhan.” Andreessen mengatakan hal ini tentang artikel Pierson di X: “Apakah kanker yang menulis ini?” Postingan tersebut mendapat 15.000 suka dan hampir seribu retweet. Para pemimpin perusahaan AI sering mengatakan bahwa mereka sangat antusias dengan potensi AI untuk mempercepat penelitian ilmiah, termasuk pencarian obat. Namun Pierson berpendapat bahwa model umum yang besar ini tidak dirancang khusus untuk menyembuhkan penyakit, dan tampaknya masih jauh dari memberikan perbaikan besar pada hasil pengobatan pasien.
Diterbitkan : 2026-06-25 16:00:00
sumber : www.fastcompany.com
