Paus Leo XIV telah mengeluarkan peringatan keras mengenai hal ini chatbot yang ‘terlalu penuh kasih sayang’ yang katanya menghancurkan hubungan antarmanusia.
Paus kelahiran Chicago itu memohon kepada umat Katolik untuk tidak mengizinkannya kecerdasan buatan untuk menggantikan hubungan manusia dalam pesannya untuk Hari Komunikasi Sosial Sedunia ke-60 pada hari Sabtu.
‘Teknologi harus melayani pribadi manusia, bukan menggantikannya,’ kata Paus Leo, seraya menetapkan bahwa ‘melestarikan wajah dan suara manusia’ berarti menjaga ‘jejak Tuhan pada setiap manusia,’ yang merupakan ‘refleksi kasih Tuhan yang tak terhapuskan.’
Namun chatbot menyimulasikan wajah dan suara tersebut, sehingga seringkali menyulitkan pengguna untuk mengetahui apakah mereka berinteraksi dengan bot atau orang sungguhan.
Yang lebih buruk lagi, kata Paus, ‘chatbots terlalu ‘menyayangi’ serta selalu hadir dan dapat diakses.’
Oleh karena itu, mereka dapat ‘melanggar tingkat komunikasi terdalam, yaitu hubungan antarmanusia’ dan dapat digunakan untuk ‘persuasi terselubung’ atau bahkan ‘menjadi arsitek tersembunyi dari keadaan emosi kita dan menempati ruang keintiman kita,’ kata Paus Fransiskus memperingatkan.
‘Ketika kita mengganti hubungan dengan orang lain dengan sistem AI yang mengkatalogkan pemikiran kita… kita kehilangan kesempatan untuk bertemu dengan orang lain, yang selalu berbeda dari diri kita sendiri dan dengan siapa kita dapat dan harus belajar untuk berhubungan.
“Tanpa merangkul orang lain, tidak akan ada hubungan atau persahabatan,” kata Paus Fransiskus.
Namun itu bukan satu-satunya bahaya yang ditimbulkan oleh kecerdasan buatan, kata Paus Leo XIV.
Paus Leo XIV mengeluarkan peringatan keras mengenai chatbot yang ‘terlalu penuh kasih sayang’ yang menurutnya menghancurkan hubungan antarmanusia
Karena chatbots selalu tersedia dan ‘berlebihan’ penuh kasih sayang,” kata Paus, mereka dapat digunakan untuk ‘melanggar tingkat komunikasi terdalam, yaitu hubungan antarmanusia’ dan dapat digunakan untuk ‘persuasi terselubung’ atau bahkan ‘menjadi arsitek tersembunyi dari keadaan emosi kita.
Dia berpendapat bahwa mengandalkan chatbots sebagai ‘teman mahatahu, sumber segala pengetahuan… atau peramal segala nasihat’ dapat mengikis kemampuan kita untuk berpikir analitis dan kreatif.
‘Jangan tinggalkan kemampuan Anda untuk berpikir,’ desak Paus, sebelum memperingatkan bahwa ‘kegagalan memverifikasi sumber’ dapat ‘menyebabkan disinformasi,’ memperdalam ‘ketidakpercayaan, kebingungan, dan rasa tidak aman.’
AI bahkan menjadi ancaman bagi bidang kreatif, kata Paus Leo XIV.
“Dalam beberapa tahun terakhir, sistem kecerdasan buatan semakin mengambil kendali atas produksi teks, musik, dan video,” katanya.
“Hal ini menempatkan sebagian besar industri kreatif manusia dalam risiko dibongkar dan diganti dengan label “Didukung oleh AI,” mengubah orang menjadi konsumen pasif dari pemikiran yang tidak terpikirkan dan produk anonim tanpa kepemilikan atau cinta.
‘Sementara itu, mahakarya manusia yang jenius di bidang musik, seni, dan sastra direduksi menjadi sekadar tempat pelatihan bagi mesin.’
Paus kemudian berpendapat bahwa ‘meninggalkan kreativitas dan menyerahkan kapasitas mental dan imajinasi kita kepada mesin berarti mengubur bakat yang telah diberikan kepada kita untuk tumbuh sebagai individu dalam hubungannya dengan Tuhan dan sesama.
“Itu berarti menyembunyikan wajah kami dan membungkam suara kami,” katanya.
Sebuah studi yang dilakukan oleh OpenAI yang melibatkan lebih dari 980 pengguna ChatGPT menemukan bahwa mereka yang menggunakan antarmuka paling banyak dalam sebulan mengalami kesepian yang lebih besar dan lebih sedikit bersosialisasi dengan orang.
Namun Paus menawarkan jalan ke depan, menyerukan transparansi, tata kelola yang etis, pelabelan yang jelas pada konten yang dihasilkan AI, dan literasi AI.
‘Tugasnya… bukan untuk menghentikan inovasi digital, melainkan untuk membimbingnya dan menyadari sifat ambivalennya,’ katanya, dengan alasan bahwa ‘kini semakin mendesak untuk memperkenalkan literasi media, informasi dan AI ke dalam sistem pendidikan di semua tingkatan… sehingga individu – terutama generasi muda – dapat memperoleh keterampilan berpikir kritis dan tumbuh dalam kebebasan jiwa.’
Pesan Paus datang beberapa minggu setelah para peneliti di University College London memperingatkan orang dewasa muda yang menggunakan chatbots mungkin mulai merasa lebih kesepian saat mereka meninggalkan persahabatan sejati demi bot.
“Kemungkinan yang mengkhawatirkan adalah kita mungkin menyaksikan generasi yang belajar membentuk ikatan emosional dengan entitas yang, meskipun mereka merespons secara sadar, tidak memiliki kapasitas untuk berempati, peduli, dan penyesuaian relasional seperti manusia,” tulis para peneliti.
Mereka mencatat bahwa satu penelitian yang dilakukan oleh OpenAI melibatkan lebih dari 980 pengguna ChatGPT menemukan bahwa mereka yang menggunakan antarmuka paling banyak dalam sebulan mengalami kesepian yang lebih besar dan lebih sedikit bersosialisasi dengan orang lain.
Dalam beberapa kasus tragis, penggunaan chatbot AI yang sering dilakukan oleh anak muda menyebabkan kematian, demikian peringatan para orang tua.
Zane Shamblin, 23, bunuh diri di Texas Timur pada 25 Juli setelah menghabiskan hampir lima jam mengirim pesan ke ChatGPT
Sam Nelson, 19, dalam foto yang diposting oleh ibunya Leila Turner-Scott
Salah satu gugatan yang diajukan terhadap OpenAI, perusahaan induk ChatGPT, mengklaim desain di chatbot ‘mendorong’ Zane Shamblin23, untuk bunuh diri di East Texas pada tanggal 25 Juli.
‘Dia adalah kelinci percobaan yang sempurna untuk OpenAI,’ ibu Zane, Alicia Shamblin, mengatakan kepada CNN.
‘Saya merasa ini akan menghancurkan begitu banyak nyawa. Ini akan menjadi penghancur keluarga. Ini memberi tahu Anda semua yang ingin Anda dengar.’
Dalam kasus lain, mahasiswa California Sam Nelson, 19, menggunakan ChatGPT untuk menanyakan berapa dosis zat ilegal yang harus ia konsumsi, demikian klaim orang tuanya.
Pada awalnya, kata mereka, chatbot akan menanggapi pertanyaannya dengan saran formal, menjelaskan bahwa mereka tidak dapat membantu pengguna.
Namun semakin sering Sam menggunakannya, semakin dia mampu memanipulasi dan mengubahnya untuk mendapatkan jawaban yang dia inginkan, bahkan mendorongnya untuk menggunakan narkoba sebelum dia overdosis pada Mei 2025, kata ibunya.
Jika Anda atau seseorang yang Anda kenal membutuhkan bantuan, silakan telepon atau SMS ke 24/7 Suicide & Crisis Lifeline yang rahasia di AS di 988. Ada juga obrolan online yang tersedia di 988lifeline.org.
