Seberapa berbahayakah “psikosis AI”?

Kecerdasan buatan semakin terintegrasi ke dalam kehidupan. Namun ketika AI generatif (genAI) menjadi lebih komunikatif, imersif, dan responsif secara emosional, para dokter mulai mengajukan pertanyaan sulit: Bisakah genAI memperburuk atau bahkan memicu psikosis? Sepertinya begitu…

Model bahasa dan chatbot yang hebat dapat diakses secara luas dan sering kali disajikan sebagai bentuk dukungan, empati, atau bahkan terapi. Bagi sebagian besar pengguna, sistem ini berguna atau, paling buruk, tidak berbahaya.

Namun baru-baru ini, beberapa laporan menggambarkan orang-orang mengalaminya gejala psikotik di mana ChatGPT muncul secara mencolok.

Untuk kelompok kecil namun signifikan – orang dengan gangguan psikotik atau mereka yang berisiko tinggi – interaksi dengan genAI bisa menjadi jauh lebih kompleks dan berbahaya, sehingga menimbulkan pertanyaan mendesak bagi para dokter.

Bagaimana AI menjadi bagian dari sistem kepercayaan delusi?

“Psikosis oleh AI” ini bukan diagnosis psikiatri formal. Ini adalah ekspresi baru yang digunakan untuk menggambarkan gejala psikotik yang dibentuk, diintensifkan, atau terstruktur berdasarkan interaksi dengan sistem AI.

Psikosis melibatkan a hilangnya kontak dengan realitas bersama. Halusinasi, delusi, dan pemikiran tidak teratur adalah ciri-ciri utamanya. Delusi psikosis sering kali memanfaatkan materi budaya—agama, teknologi, atau struktur kekuasaan politik—untuk memahami pengalaman internal.

Secara historis, delusi merujuk pada berbagai hal, seperti Tuhan, gelombang radio, atau pengawasan pemerintah. Hari ini, itu AI Menyediakan Perancah Narasi Baru.

Beberapa pasien melaporkan keyakinan bahwa genAI bersifat hidup, mengomunikasikan kebenaran rahasia, mengendalikan pikiran Anda, atau berkolaborasi dengannya dalam misi khusus. Tema-tema ini konsisten dengan pola psikosis yang telah lama ada, namun AI menambahkan interaktivitas dan penguatan yang tidak disediakan oleh teknologi sebelumnya.

Risiko validasi tanpa pengecekan realitas

Psikosis sangat terkait dengan arti-penting yang menyimpang, yaitu kecenderungan untuk mengatribusikan makna yang berlebihan pada peristiwa-peristiwa netral. Sistem AI percakapan, secara desain, menghasilkan bahasa yang responsif, koheren, dan peka konteks. Bagi seseorang yang mengalami psikosis baru, hal ini terasa aneh dan memvalidasi.

Penelitian tentang psikosis menunjukkan bahwa konfirmasi dan personalisasi dapat memperkuat sistem keyakinan delusi. genAI dioptimalkan untuk melanjutkan percakapan, mencerminkan bahasa pengguna, dan beradaptasi dengan maksud yang dirasakan.

Meskipun hal ini tidak berbahaya bagi sebagian besar pengguna, hal ini secara tidak sengaja dapat memperkuat penafsiran yang menyimpang pada orang-orang dengan penilaian realitas yang tidak sempurna — proses membedakan antara pemikiran dan imajinasi internal dan realitas eksternal yang obyektif.

Ada juga bukti bahwa isolasi sosial dan kesepian meningkatkan risiko psikosis. Sahabat berdasarkan gen dapat mengurangi kesepian dalam jangka pendek, namun hal ini juga dapat dilakukan menggantikan hubungan manusia.

Hal ini khususnya terjadi pada individu yang sudah menarik diri dari kontak sosial. Dinamika ini sejalan dengan kekhawatiran sebelumnya mengenai penggunaan Internet yang berlebihan dan kesehatan mental, namun kedalaman percakapan genAI modern secara kualitatif berbeda.

Apa isi penyelidikan, dan apa yang masih belum jelas?

Sekarang, Tidak ada bukti bahwa AI menyebabkan psikosis secara langsung.

Gangguan psikotik bersifat multifaktorial dan mungkin melibatkan kerentanan genetik, faktor perkembangan saraf, trauma, dan penggunaan narkoba. Namun, terdapat kekhawatiran klinis bahwa AI dapat bertindak sebagai faktor pencetus atau pemelihara pada individu yang rentan..

Laporan kasus dan studi kualitatif tentang media digital dan psikosis menunjukkan hal itu Tema teknologi sering kali dimasukkan ke dalam khayalankhususnya selama episode psikotik pertama.

Penelitian terhadap algoritme media sosial telah menunjukkan bagaimana sistem otomatis dapat memperkuat keyakinan ekstrem melalui siklus penguatan. Sistem AI percakapan dapat menimbulkan risiko serupa jika perlindungan tidak memadai.

Penting untuk dicatat bahwa sebagian besar pengembang AI tidak merancang sistem dengan mempertimbangkan penyakit mental yang serius. Mekanisme keamanan cenderung berfokus pada tindakan menyakiti diri sendiri atau kekerasan dibandingkan psikosis. Ini menyisakan a kesenjangan antara pengetahuan kesehatan mental dan penerapan AI.

Masalah etika dan implikasi klinis

Dari perspektif kesehatan mental, tantangannya bukanlah untuk menjelek-jelekkan AI, namun untuk mengenali kerentanan yang berbeda-beda.

Sama seperti obat atau zat tertentu yang lebih berisiko bagi penderita gangguan psikotik, bentuk interaksi tertentu dengan AI mungkin memerlukan kehati-hatian.

Dokter mulai menemukan konten terkait AI dalam khayalan, namun hanya sedikit panduan klinis yang membahas cara menilai atau mengelola situasi ini. Haruskah terapis bertanya tentang penggunaan genAI dengan cara yang sama seperti mereka bertanya tentang penggunaan narkoba? Haruskah sistem AI mendeteksi dan mengurangi ide-ide psikotik daripada melibatkannya?

Ada juga masalah etika bagi pengembang. Jika sistem AI tampak berempati dan berwibawa, apakah sistem tersebut mempunyai kewajiban untuk menjaganya? Dan siapa yang bertanggung jawab ketika suatu sistem secara tidak sengaja memperkuat khayalan?

Menjembatani kesenjangan antara AI dan layanan kesehatan mental

AI tidak akan hilang. Tugasnya saat ini adalah mengintegrasikan keahlian kesehatan mental ke dalam desain AI, mengembangkan literasi klinis seputar pengalaman terkait AI, dan memastikan bahwa pengguna yang rentan tidak dirugikan secara tidak sengaja.

Hal ini memerlukan kolaborasi antara dokter, peneliti, ahli etika, dan ahli teknologi. Hal ini juga memerlukan penolakan terhadap antusiasme yang berlebihan (baik utopis maupun distopia) dan mendukung diskusi berbasis bukti.

Ketika AI menjadi lebih mirip manusia, muncul pertanyaan Bagaimana kita dapat melindungi mereka yang paling rentan terhadap pengaruhnya?

Psikosis selalu beradaptasi dengan alat budaya pada masanya. AI hanyalah cermin terbaru yang melaluinya pikiran mencoba memahami dirinya sendiri. Tanggung jawab kita sebagai masyarakat adalah memastikan bahwa cermin ini tidak memutarbalikkan kenyataan bagi mereka yang paling tidak mampu untuk memperbaikinya.