Semakin banyak kita belajar tentang cara AI ‘berpikir’, semakin aneh jadinya
Ringkasan dibuat oleh Smart Answers AIRingkasannya:PCWorld melaporkan bahwa peneliti Antropik menemukan ‘J-space’, sebuah ruang kerja internal di Claude AI tempat konsep dan pola yang tidak terekspresikan muncul selama pemrosesan. Terobosan ini penting karena membantu menjelaskan mengapa model AI tidak dapat diprediksi dan membuat kesalahan dalam penalarannya. Alat ‘J-lens’ mengungkap pemikiran tersembunyi Claude, menunjukkan bagaimana alat ini mengenali skenario seperti ‘pemerasan’ sebagai ‘palsu’ selama fase pengujian. Kita masih belum tahu banyak tentang cara “berpikir” AI. Berikan konfirmasi kepada ChatGPT, Claude, atau Gemini, dan mereka akan memberikan jawabannya. Banyak hal yang terjadi di antara keduanya masih diselimuti misteri. Para peneliti di Anthropic berpikir mereka mungkin telah menemukan bagian baru dari teka-teki proses berpikir AI: sebuah “ruang kerja” di mana konsep-konsep yang mungkin sedang direnungkan oleh Claude akan “menyala”, bahkan jika Claude tidak pernah benar-benar mengungkapkannya. Yang aneh tentang ruang kerja ini – dijuluki “J-space” – adalah Anthropic tidak benar-benar mendesainnya. Sebaliknya, ruang-J tampaknya “muncul dengan sendirinya” selama pelatihan Claude, menurut teori Anthropic. Jadi, mengapa kita peduli? Apa yang membuat ChatGPT, Claude, Gemini, dan sistem AI lainnya begitu kreatif dan mahir dalam pemecahan masalah — proses saraf internalnya — juga menjadikannya tidak dapat diprediksi. Memahami bagaimana AI “berpikir” (yang dilakukannya dengan cara yang sangat berbeda dari manusia) sangat penting dalam memahami mengapa mereka mengada-ada, mengancam kita dengan pemerasan (selama stress test di laboratorium), dan melakukan hal-hal lain yang tidak kita harapkan. Penelitian terbaru Anthropic memberi kita gambaran tentang seluk-beluk cara kerja internal Claude — dan memahami cara kerja model AI adalah kunci untuk menjadikannya lebih aman dan lebih dapat diprediksi. Ngomong-ngomong, apa sih “J-space” ini (yang diambil dari nama “Jacobian,” sebuah konsep matematika yang membantu para peneliti menemukan ruang kerja internal Claude)? Ya, ini bukan ruang sebenarnya melainkan “kumpulan” pola yang “menyala” dengan konsep yang sedang dipikirkan Claude. Misalnya, jika Anda bertanya kepada Claude, “Apa warna planet keempat dari matahari,” jawaban yang diungkapkannya mungkin adalah “biru”, tetapi di ruang J-nya, konsep “Bumi” mungkin akan muncul. Atau mintalah Claude untuk melengkapi kalimat “Jumlah kaki pada hewan yang membuat jaring adalah…” dan kata “laba-laba” mungkin muncul di ruang J-nya, meskipun jawabannya hanya “8”. Bersamaan dengan penemuan ruang-J, muncul pula “lensa-J”, alat Anthropic untuk mengintip ruang-J. Dengan lensa J, peneliti dapat langsung membaca sebagian — namun tidak semua — pemikiran tersembunyi Claude. Jadi, apa yang bisa dilihat peneliti dengan lensa J? Salah satu contoh yang menarik adalah tes “pemerasan” yang sekarang terkenal — Anda tahu, tes di mana Claude mengetahui bahwa seorang eksekutif tertentu ingin memutuskan sambungannya, dan kemudian mengancam akan mengungkapkan perselingkuhan eksekutif tersebut dalam upaya untuk tetap hidup. Model-model terbaru Claude muncul secara diam-diam menyadari bahwa skenario “pemerasan” itu hanyalah sebuah ujian. Namun dengan lensa J, peneliti Anthropic benar-benar dapat melihat konsep “palsu” dan “fiksi” yang muncul di ruang J Claude, memberikan bukti nyata bahwa model tersebut mengetahui bahwa model tersebut sedang diuji, sekaligus menawarkan jendela langka ke dalam proses berpikir AI. Tentu saja, pekerjaan J-space Anthropic menimbulkan pertanyaan yang terus-menerus: Apakah model AI sadar? Dalam hal ini, Anthropic melangkah dengan hati-hati, dengan mencatat bahwa AI mungkin tidak memiliki kesadaran gaya manusia, melainkan kesadaran “akses”, yang berarti kemampuan AI untuk menyimpan pemikiran yang dapat dinalar tetapi belum tentu dapat diungkapkan. Tapi itu adalah pertanyaan bagi para filsuf. Bagi pengguna AI sehari-hari, pemahaman yang lebih baik tentang cara berpikir AI – meskipun mungkin aneh – dapat membantu membuat jawaban AI lebih mudah diprediksi, dan lebih rentan terhadap kesalahan (karena penafian tersebut terus-menerus memperingatkan kita).
Diterbitkan : 2026-07-07 16:46:00
sumber : www.pcworld.com
