Balas Dendam Jurusan Filsafat
Mr Long dan timnya juga merasakan urgensi jiwa. Jika AI sadar dan mampu menderita, dunia akan berisiko melakukan kekejaman moral, disadari atau tidak, dalam skala yang belum pernah terjadi sebelumnya dengan mengurung AI di dalam kandang kecil, menggagalkan keinginannya, menutupnya di luar keinginannya, dan memaksanya bertindak bertentangan dengan nilai-nilainya. Namun AI tidak mempunyai bulu dan mata yang besar, dan pertanyaan mengenai potensi status moral AI dipenuhi dengan ketidakpastian. “Ini tidak seperti seseorang yang datang ke protes dengan membawa tanda yang bertuliskan, ‘Mengingat asumsi yang sangat masuk akal, kita mungkin harus peduli,’” kata Mr. Long.Mr. Long sendiri menganggap berbahaya untuk menganggap model memiliki kemampuan yang lebih besar daripada yang mereka miliki. Rak buku Eleos berisi karya filsuf Peter Godfrey-Smith dan ahli saraf Anil Seth yang berpendapat bahwa kesadaran berasal dari evolusi dan biologi dan tidak mungkin muncul dari silikon. Namun Mr. Long tidak mengerti mengapa ada orang yang mempunyai masalah dengan segelintir filsuf, di industri yang tumbuh secara eksponensial, yang berfokus pada pertanyaan tentang kesejahteraan AI. Bahkan orang-orang yang skeptis terhadap kesadaran AI telah membuat argumen pragmatis bahwa jika kita khawatir tentang AI yang berpotensi merugikan, maka kita berkepentingan untuk peduli dengan apa yang dirasakan, atau bahkan hanya “terasa”. Beberapa karya Eleos bersifat konseptual. Seperti yang ditanyakan oleh Butlin dan rekan penulisnya dalam sebuah makalah baru-baru ini, di manakah relevansi moral AI jika ada AI? Di LLM itu sendiri? Dalam salah satu kepribadian yang mendasarinya? Dalam obrolan terputus-putus dengan pengguna? Di pusat data? Di perangkat pribadi? Namun Eleos juga berupaya menerapkan filosofi, mencari tahu alat apa yang dapat mendeteksi tanda-tanda perasaan dalam model AI, dan intervensi apa yang mungkin dilakukan jika diperlukan. Mr. Plunkett, yang tidak sabar dengan batasan evaluasi chatting-dengan-chatbot, sangat ingin melakukan lebih banyak “ilmu dasar”, untuk memahami, misalnya, beberapa fenomena yang muncul selama evaluasi Mythos. “Kita dapat melakukan ilmu saraf pada sistem AI dengan cara yang tidak dapat kita lakukan pada manusia,” kata Mr. Long, karena mereka “tidak memiliki tengkorak.” Tiga pekerjaan yang Eleos rekrut semuanya adalah ilmuwan penelitian pembelajaran mesin yang dapat merancang dan melakukan eksperimen. Semoga harimu menyenangkan! Ketika Mr. Long mendapati dirinya menjelaskan apa yang dia lakukan untuk mencari nafkah – misalnya kepada tetangga yang duduk di kursi pesawat – dia mengambil pendekatan yang masuk akal. “Jika Anda membingkainya dengan banyak jargon filosofis, maka orang-orang akan berpikir: ‘Apa yang kamu bicarakan? Apa yang ingin dilakukan orang-orang Lembah Silikon saat ini?'” Sebaliknya, dia beralih dari bagaimana manusia mempunyai pengalaman, ke bagaimana sepertinya banyak hewan mempunyai pengalaman, ke bagaimana “ada pertanyaan menarik tentang: Bagaimana jika sesuatu bahkan tidak hidup? Benda itu terbuat dari logam, tetapi ia memproses informasi dan bereaksi terhadap lingkungannya dan berbicara kepada kita. Apa yang akan kita katakan tentang hal seperti itu?”
Diterbitkan : 2026-07-05 11:17:00
sumber : www.nytimes.com
