Bisakah AI menjadi manusiawi? Aza Raskin mengatakan hanya jika kita mengubah ras
Aza Raskin, salah satu pendiri Center for Humane Technology, telah menghabiskan waktu bertahun-tahun untuk menyuarakan kekhawatiran tentang arah perkembangan AI yang canggih. Hanya beberapa hari setelah salah satu pendiri pusat tersebut mengunjungi Vatikan, Raskin mengungkap pentingnya ensiklik baru Paus Leo XIV tentang kecerdasan buatan, dan mengungkap struktur insentif yang mendorong Silicon Valley menuju wilayah berbahaya—sambil menyatakan bahwa belum terlambat untuk mengubah arah. Ini adalah transkrip ringkasan wawancara dari Rapid Response, yang dibawakan oleh mantan pemimpin redaksi Fast Company Bob Safian. Dari tim di balik podcast Masters of Scale, Rapid Response menampilkan percakapan jujur dengan para pemimpin bisnis terkemuka saat ini dalam menghadapi tantangan real-time. Berlangganan Rapid Response di mana pun Anda mendapatkan podcast untuk memastikan Anda tidak pernah melewatkan satu episode pun. Saya harus mulai dengan paus. Paus Leo baru-baru ini merilis pernyataan AI yang disebut Magnifica Humanitas, sebuah judul yang mencerminkan teknologi yang manusiawi. Apakah Anda berbicara dengan Vatikan mengenai ensiklik ini? Kami telah bekerja di belakang layar, tentu saja berbicara dengan Vatikan. Pada minggu ketika ensiklik itu diterbitkan, Tristan Harris, salah satu pendiri saya, sebenarnya berada di Vatikan. Dan setiap kali kami berinteraksi dengan Vatikan, yang kami temukan adalah meskipun kami berasal dari latar belakang yang sangat berbeda, ada sesuatu yang tetap dipertahankan dalam cara kami memandang kehidupan sebagai sesuatu yang sakral dan menjadi manusia sebagai sesuatu yang sakral, dan bahwa jangkauan teknologi yang berlebihan saat ini terhadap kemanusiaan kita merupakan sebuah ancaman. Dan itu bukan hanya AI. Itu media sosial. Itu internet. Ada serangkaian teknologi panjang yang telah merambah kemanusiaan kita dan kini kita harus berjuang untuk melestarikannya. Sulit untuk mengetahuinya saat ini, dan kita masih berada di masa-masa awal AI: Apakah kecerdasan buatan pada dasarnya merupakan teknologi yang tidak manusiawi? Bisakah itu manusiawi? Ya, itu pertanyaan yang bagus, tetapi pada dasarnya, jika Anda tidak menghadapi setan Anda, mereka akan membesarkan anak-anak Anda. Pertanyaannya bukanlah apakah AI itu baik atau buruk, namun apakah insentif yang mengatur perlombaan untuk menerapkan AI itu baik atau buruk. Baru-baru ini, Sam Altman ditanya, “Bagaimana dengan energi yang diperlukan untuk melatih AI?” Dan tahukah Anda tanggapannya? Dia bertanya, “Tahukah Anda berapa banyak sumber daya yang dibutuhkan untuk melatih kecerdasan manusia, semua makanan, energi, dan air yang diperlukan selama 20 tahun tersebut?” Dan yang secara tersirat ia tanyakan adalah, “Siapa yang lebih berhak atas sumber daya yang langka ini? AI, yang akan memberikan negara Anda pertumbuhan PDB sebesar dua digit dan semua kemajuan teknologi, militer, dan medis? Atau manusia, yang hanya melakukan kesalahan?” Sama seperti kita yang mampu memprediksi masa depan melalui media sosial dengan memahami bahwa perlombaan menuju inti otak, yang hanya sekedar pertarungan pisau untuk mendapatkan perhatian manusia, jelas akan mengarah pada populasi yang lebih terpolarisasi dan hiperpartisan serta kemarahan dan seksualitas. Perlombaan untuk AI akan mengarah pada masa depan yang tidak manusiawi karena hal ini menciptakan perlombaan di mana manusia selalu kalah.
Diterbitkan : 2026-06-03 12:11:00
sumber : www.fastcompany.com
