Claude menjadi lebih agen. Amanda Askell sedang memikirkan apa maksudnya
Amanda Askell menghabiskan hari-harinya memikirkan cara memastikan Claude, chatbot AI Anthropic, beroperasi dengan moralitas. Ketika model AI beralih dari chatbot ke agen yang dapat menyelesaikan tugasnya sendiri, keputusan yang diambil model ini menjadi jauh lebih penting. Askell, anggota staf teknis di Anthropic, berperan penting dalam upaya perusahaan untuk memberi Claude kompas etis, sebuah tanggung jawab yang tumbuh seiring dengan berkembangnya kemampuan sistem. “Ketika model menjadi lebih mandiri dan mengambil tindakan dalam jangka waktu yang lebih panjang, tiba-tiba mereka memiliki lebih banyak poin keputusan yang harus Anda petakan dan buat pekerjaan dengan baik sebelumnya,” katanya kepada Fast Company. Ada perbedaan yang jelas antara meminta model bahasa besar untuk mendiskusikan moralitas membeli saham di perusahaan pertahanan dan memintanya untuk mengelola portofolio investasi pengguna tanpa masukan manusia sehari-hari. Askell mengatakan salah satu solusinya adalah mendorong Claude untuk bersikap responsif dan, seperti seorang teman, memahami nilai-nilai pengguna tanpa memaksakan etika uniknya sendiri. Saat ini, Anthropic mengkomunikasikan nilai-nilainya melalui konstitusi tertulis dan terus berkembang, yang menguraikan prinsip-prinsip seperti keselamatan dan kegunaan, serta panduan untuk menyelesaikan konflik di antara keduanya. Ketika AI menjadi lebih mampu, dokumen tersebut dapat diperluas untuk mencakup skenario baru, kata Askell. Atau bisa juga menyusut, seiring dengan semakin berkembangnya keahlian Claude dalam menghadapi situasi kompleks. Era agentik juga mengubah karya Askell sendiri. Dia sering menggunakan Claude, termasuk untuk menyusun kembali ide-idenya dan mengidentifikasi kasus-kasus yang sulit. “Standar saya saat ini adalah, jangan menganggap Claude lebih dapat diandalkan daripada asisten pribadi manusia,” katanya. Percakapan yang diperluas berikut ini, bagian dari paket AI 20 Fast Company, telah diedit agar panjang dan jelas. Saat ini, kami terbiasa berinteraksi dengan model dalam lingkungan teks digital ini. Anda dapat mengajukan pertanyaan seperti ini kepada mereka: Apakah etis bagi saya untuk berinvestasi pada kontraktor pertahanan ini atau berinvestasi pada jenis barang tertentu yang secara etika dipertanyakan? Hal ini berbeda dengan seseorang yang menugaskan AI untuk melakukan investasinya sendiri dan menavigasi dinamika etika tersebut. Bagaimana pendapat Anda tentang transisi itu?
Diterbitkan : 2026-06-19 11:11:00
sumber : www.fastcompany.com
