CEO Anthropic Dario Amodei tidak yakin apakah ini yang terbaru Claude bot obrolan sadar. Ini mungkin tidak terlalu mengejutkan. Lagi pula, bulan lalu Anthropic mengeluarkan a versi revisi Konstitusi Claudepada dasarnya adalah kerangka kerja yang mendefinisikan entitas seperti apa yang diinginkan perusahaan dalam model AI perdananya, yang menyatakan hal yang hampir sama. Tapi serius? Claude? Sadar? Amodei dan semua orang di Anthropic lebih tahu dari itu, bukan?
Secara pribadi, saya termasuk orang yang sinis terhadap status model AI sebagai pasien yang bermoral atau makhluk yang sadar. Reaksi naluriah saya terhadap spekulasi yang tampaknya tidak berbahaya ini adalah bahwa ini hanyalah sensasi pemasaran yang dirancang untuk mengeksploitasi FOMO calon pelanggan dan klien.
Seorang pasien yang bermoral
Soalnya, Claude mungkin tidak lagi sebatas memprediksi kata atau token berikutnya. Sekarang hal ini dapat melampaui batasan algoritmik yang tidak memihak. Ini adalah cara tidak langsung untuk mengisyaratkan bahwa Claude sangat pintar, bahkan mungkin ajaib, dan Anda mungkin harus mendaftar untuk menggunakannya sebelum pesaing Anda melakukannya. Jangan ragu untuk membayar untuk Claude Pro mulai dari $20 per bulan, meskipun menurut saya Claude Max sedikit lebih hidup, milik Anda mulai dari $100 per bulan.
Apa pun, luangkan waktu untuk mendengarkan tokoh-tokoh senior dari Anthropic dan Anda akan sulit berargumentasi bahwa mereka tidak sepenuhnya sesuai dengan merek. Begini, melakukan antropomorfisasi yang penuh semangat pada model Claude terbaru jelas merupakan kesalahan mereka.
Misalnya, salah satu pendiri Anthropic, Jack Clark, dan salah satu pendiri Anthropic, baru-baru ini tampil di podcast New York Times lainnya, seolah-olah berbicara tentang kemampuan dan dampak fungsi agen dalam model AI. Namun hampir di setiap kesempatan, pembicaraannya cenderung bersifat filosofis, atau bahkan metafisik.
“Saat Anda mulai melatih sistem ini untuk melakukan tindakan di dunia,” jelas Clark, “mereka benar-benar mulai melihat dirinya berbeda dari dunia.” Ia juga mengingat dampak peralihan kemampuan agen untuk pertama kalinya, terutama kemampuan mencari dan menjelajahi internet.
“Kadang-kadang ketika kami memintanya untuk memecahkan suatu masalah bagi kami, ia juga akan beristirahat dan melihat gambar-gambar taman nasional yang indah atau gambar anjing meme internet Shiba Inu yang terkenal lucu. Kami tidak memprogramnya. Sepertinya sistem itu menghibur dirinya sendiri dengan melihat gambar-gambar yang bagus.”
Mengatakan bahwa komentar-komentar tersebut mengandung implikasi dan asumsi tentang sifat Claude adalah pernyataan yang meremehkan. Hal yang sama juga berlaku pada diskusi Anthropic tentang apa yang disebut sebagai model kesejahteraan. “Kami tidak yakin apakah Claude adalah seorang pasien yang bermoral, dan jika memang demikian, seberapa besar kepentingan yang harus ditanggungnya. Namun kami pikir isu ini cukup penting untuk diwaspadai, yang tercermin dalam upaya berkelanjutan kami dalam memberikan contoh kesejahteraan,” jelas Konstitusi terbaru Claude. Singkatnya, Claude sangat pintar, dia seharusnya punya hak. Dan kita kembali ke masalah FOMO.
Introspeksi yang dirasakan
Tentu saja, posisi epistemik yang ketat mengenai semua ini adalah, “kita tidak tahu”. Kita tidak bisa benar-benar yakin tentang semua itu. Namun apakah semua wacana ini benar-benar mencerminkan ketidakpastian material di Anthropic mengenai subjek ini? Ataukah kenyataan bahwa mereka tidak menganggap gagasan kesadaran model dan interioritas moral seserius komentar mereka dan Konstitusi Claude terbaru?
Jelasnya, saya tidak mengusulkan untuk membuat kasus komprehensif di sini mengenai apakah model AI terbaru memiliki sifat muncul yang mungkin Anda sebut berdekatan dengan kesadaran. Ada banyak makalah akademis yang ditulis tentang aspek sempit dari persepsi introspeksi yang hanya ditunjukkan oleh model yang sangat spesifik. Sebentar lagi kita akan membahas aliran waktu, termodinamika, penjumlahan temporal dalam neuron organik, dan akumulasi informasi yang tidak dapat diubah di alam semesta. Jadi, anggap saja saya tetap skeptis.
Semuanya merupakan cara yang cukup rumit untuk mengatakan sesuatu yang cukup sederhana. Saya tidak yakin tentang kesadaran Claude. Saya juga tidak bisa yakin mengenai ketulusan Athropic mengenai masalah ini. Namun ada sesuatu dalam cara perusahaan bersandar pada anggapan tersebut yang membuat saya curiga. Jadi, saya tidak sepenuhnya membelinya.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
