Chatbot Yang Meramalkan Mengapa Orang Berbagi Rahasia Dengan ChatGPT
Dalam 60 tahun ELIZA telah mempengaruhi komputasi dan budaya, pandangan konvensional menggambarkannya sebagai contoh paling awal dari apa yang sekarang kita sebut chatbots, yang dapat berfungsi sebagai psikolog otomatis. Program yang tampak sederhana ini dikenal “membodohi” bahkan sekretaris yang menyaksikan profesor MIT Joseph Weizenbaum membuatnya. Begitulah ceritanya. Namun, dalam semua hal tersebut—bahkan setelah semua adaptasinya di seluruh bahasa pemrograman dan bidang penelitian, di ruang kelas, dan budaya populer—ada satu bagian penting dari cerita yang hilang: kode sumber untuk program ELIZA itu sendiri. Buku baru kami, Inventing ELIZA, memulihkan kode sumber ini dari Arsip MIT, menawarkan untuk pertama kalinya pembacaan dan diskusi mendalam tentang kode tersebut bersama dengan dialog-dialog baru yang terungkap untuk skrip ELIZA di luar persona “DOCTOR” yang populer. Investigasi ini mengungkap banyak ELIZA: dalam versi program yang berbeda, dirancang untuk menjalankan beragam skrip atau persona, dibangun menggunakan serangkaian inovasi teknis. Menciptakan ELIZA berupaya untuk memperbaiki dan memperumit sejarah dan pengaruh ELIZA dengan mengeksplorasi kesalahpahaman, banyak versi, dan kode ELIZA yang hilang. Dalam kutipan dari buku ini, kita melihat salah satu interaksi ELIZA yang paling awal, bagaimana ELIZA meletakkan dasar bagi hubungan manusia dengan komputer selama beberapa dekade mendatang, dan bagaimana program kompleks tersebut terus merespons dorongan tak terkendali dalam industri AI saat ini. Semua manusia sama saja. DALAM CARA YANG APA Mereka selalu mengganggu kita tentang sesuatu atau yang lain. BISAKAH KAMU MEMIKIRKAN CONTOH KHUSUS Nah, pacarku yang membuatku datang ke sini. TEMANMU YANG MEMBUATMU DATANG KE SINIDia bilang aku sering mengalami depresi. SAYA MAAF MENDENGAR KAMU DEPRESI Dialog itu telah dicetak ulang berkali-kali dan telah mengilhami para pemrogram dan penulis untuk memimpikan banyak chatbot setelahnya. Namun semakin dekat kita mengamati dialog tersebut, semakin banyak pertanyaan yang muncul: Siapakah wanita muda ini? Apakah dia orang sungguhan, atau dia ciptaan pencipta ELIZA, Joseph Weizenbaum? Bagaimana sebenarnya sistem ELIZA menghasilkan tanggapannya, dan seberapa banyak tanggapan tersebut diedit? Mengapa sistem ini bekerja dengan sangat baik untuk menarik orang? ELIZA, dan persona “DOKTER”-nya, membantu mengkatalisasi cara berpikir dan kecemasan tentang hubungan manusia dengan komputer. Weizenbaum mengeksplorasi hal ini dalam bukunya yang terbit tahun 1976, Computer Power and Human Reason, dengan mengajukan kritik filosofis, sosial, dan politik. Interaksi mesin unik yang dihadirkan dalam programnya mengungkapkan bagaimana bentuk-bentuk baru hubungan manusia-komputer akan memiliki dampak besar yang ia coba eksplorasi dan tantang. Setelah melihat sambutan publiknya, Weizenbaum dikejutkan oleh keterikatan emosional yang cepat dan sering kali terbentuk antara orang-orang dengan ELIZA, yang ia lihat sebagai “bukti jelas bahwa orang-orang berbicara dengan komputer seolah-olah itu adalah orang yang dapat disapa dengan tepat dan berguna dalam istilah yang akrab.” Kecenderungan untuk mengaitkan empati dan menginvestasikan perasaan pribadi ke dalam komputer membingungkan Weizenbaum. Dia prihatin dengan sejauh mana orang mengasosiasikan rasionalitas dengan komputasi, dan menganggap pemahaman dan kecerdasan berasal dari sistem komputer yang sebenarnya tidak ada. Kecenderungan ini dikenal sebagai “efek ELIZA.” Pada tahun 1991 istilah ini muncul di forum online, namun penggunaannya sudah beberapa dekade lebih tua dari kemunculannya. Sosiolog Sherry Turkle mendefinisikan “efek ELIZA” sebagai “kecenderungan kita yang lebih umum untuk memperlakukan program komputer yang responsif sebagai lebih cerdas daripada yang sebenarnya. Interaktivitas dalam jumlah yang sangat kecil menyebabkan kita memproyeksikan kompleksitas kita sendiri ke objek yang tidak layak.” Ilmuwan kognitif dan komputer Douglas Hofstadter menggambarkannya sebagai “kerentanan orang untuk membaca pemahaman yang jauh lebih banyak daripada yang diperlukan dalam rangkaian simbol—terutama kata-kata—yang dirangkai oleh komputer,” yang dengan mudah diterapkan pada sistem AI generatif saat ini. Untuk memahami kekuatan dan provokasi ELIZA, kita dapat melihat tantangan terkenal yang dirumuskan oleh ilmuwan komputer Alan Turing dalam esai “Mesin Komputasi dan Kecerdasan,” di mana Turing mengajukan pertanyaan “Dapatkah Mesin Berpikir?” Turing mendasarkan eksperimen pemikirannya pada permainan di ruang tamu—bukan tentang teknologi tetapi tentang gender: Seorang pria dan seorang wanita disembunyikan di ruangan terpisah dan seorang interogator mencoba mengidentifikasi siapa yang berjenis kelamin apa dengan mengajukan serangkaian pertanyaan. Laki-laki mencoba menyesatkan interogator dengan berpura-pura menjadi perempuan, sedangkan perempuan mencoba meyakinkan interogator tentang jawaban yang “benar”. Artinya, keduanya mengklaim bahwa mereka adalah perempuan “sebenarnya”, sebuah tantangan terhadap gagasan esensialis tentang gender.
Diterbitkan : 2026-07-14 10:00:00
sumber : www.wired.com
