Caitlin tidak bisa berhenti menghasilkan gambar AI tentang dirinya sendiri — sampai dia mengalami gangguan psikotik

Pada awalnya, AI tampak seperti keajaiban. Dia akan memikirkan sebuah ide, menulis beberapa kata dan, beberapa detik kemudian, dia akan menemukan dirinya dalam situasi apa pun yang dapat dia bayangkan: mengambang di Jupiter, dengan lingkaran cahaya dan sayap malaikat. Keajaiban itu hilang ketika dia mulai mendengar suara-suara yang memberitahunya bahwa dia bisa terbang.

Para ahli kesehatan mental mulai memperingatkan fenomena baru yang oleh sebagian orang disebut “Psikosis AI”: situasi di mana orang tergelincir ke dalam pemikiran delusi, paranoia, atau halusinasi yang dipicu oleh interaksi mereka dengan sistem cerdas.

Dalam kasus tertentu, pengguna mulai menafsirkan tanggapan chatbot sebagai signifikan secara pribadisadar, atau mengandung pesan tersembunyi yang ditujukan hanya untuk mereka.

Tapi, dengan bangkitnya gambar dan video hiperrealistis dihasilkan oleh AI, sekarang ada a risiko psikologis yang jauh lebih kuatkata para peneliti – terutama bagi pengguna yang sudah memiliki kerentanan terhadap psikosis.

Dua tahun lalu, Caitlin Nerdirektur perusahaan modal ventura Amerika Utara, menjalani pengalaman ini secara langsung.

Pada saat itu, Caitlin bertanggung jawab atas pengalaman pengguna di startup pencitraan AI yang berhubungan dengan konsumen dan menghabiskan hingga sembilan jam sehari menulis petunjuk untuk sistem generatif masih dalam tahap awal, dengan tujuan menyempurnakan model perusahaan.

Dalam sebuah artikel di Minggu BeritaCaitlin mengatakan dia sebelumnya telah didiagnosis menderita penyakit ini gangguan bipolartapi stabil, dengan pengobatan dan terapi.

Pada awalnya, kata Caitlin, AI terasa seperti sihir. Dia dengan cepat mulai menggunakan petunjuknya menghasilkan gambar diri Anda sendiri dalam situasi yang paling bervariasi.

Dia akan memikirkan sebuah ide, menulis beberapa kata dan, beberapa detik kemudian, dia akan melihat dirinya sendiri dalam situasi apa pun Saya bisa membayangkan: mengambang di Jupiter; dengan lingkaran cahaya dan sayap malaikat; sebagai superstar di depan 70.000 orang; dalam bentuk zombie.

Namun dalam beberapa bulan, Keajaiban ini berubah menjadi mania.

Saat Caitlin mulai bekerja dengan AI ini, gambarnya masih tidak dapat diprediksi. Terkadang mereka muncul bersama wajah terdistorsi, anggota badan ekstra dan ketelanjangan, meskipun tidak ada yang diminta.

Anda menghabiskan waktu berjam-jam memilih dan men-debug konten untuk menghilangkan anomali, namun ternyata berhasil terkena begitu banyak bentuk manusia yang mengganggu siapa yang percaya ini dimulai mendistorsi persepsi tubuh Anda sendiridan merangsang otak Anda secara berlebihan dengan cara yang benar-benar berbahaya bagi kesehatan mental Anda.

Bahkan ketika alat menjadi lebih stabil, gambar yang dihasilkan cenderung lebih stabil bentuk ideal: lebih sedikit cacat, wajah lebih halus dan tubuh lebih ramping. Berulang kali melihat gambar-gambar ini “memprogram ulang” gagasan tentang apa yang normal. Saat dia melihat bayangan aslinya, Caitlin melihat sesuatu yang perlu diperbaiki.

Sang eksekutif mendapati dirinya berpikir: “Kalau saja saya terlihat seperti versi AI saya…”. Itu tertinggal terobsesi untuk menurunkan berat badan, memiliki tubuh yang lebih baik dan kulit sempurna.

Jam kerja diperpanjang dan mulai kurang tidurmenggantinya dengan a rangkaian gambar yang dihasilkan AI tanpa akhirsatu demi satu. Prosesnya sendiri membuat ketagihan, karena setiap gambar baru memberikan kepuasan tersendiri — lonjakan dopamin kecil. Selalu ada satu ide lagi, satu variasi lagi untuk diuji, satu gambar lagi untuk dihasilkan.

Tak lama kemudian, pikirannya tertuju dipengaruhi oleh episode manik terkait dengan gangguan bipolar, yang memicu psikosis. Ia tidak lagi mampu membedakan mana yang nyata dan mana yang fiksi. Dia melihat pola-pola yang sebenarnya tidak ada, simbol-simbol dalam hasil yang tampak seperti pesan yang ditujukan hanya untuknya.

Saat dia menatap gambar-gambar itu, Caitlin mulai mendengar halusinasi pendengaran yang sepertinya datang dari suatu tempat antara AI dan pikirannya sendiri. Beberapa suara terdengar menenangkan; yang lain mengejeknya atau meneriakinya – yang mana menjawab seolah-olah mereka adalah orang sungguhan berbicara denganmu di kamarmu.

Ketika dia melihat gambar dirinya yang dibuat oleh AI di atas kuda terbang, dia mulai mempercayainya sebenarnya bisa terbang. Suara-suara itu menyuruhnya terbang dari balkon, dan membuatnya merasa yakin bahwa dia akan selamat. Delirium yang luar biasa ini hampir membuatnya terlonjak.

Setelah beberapa malam tanpa tidur, dia pingsan—secara fisik dan emosional. Euforia pun runtuh kelelahan, ketakutan, depresi dan kebingungan.

Itu adalah salah satu pengalaman paling menakutkan dalam hidupnya. Langkah pertama untuk menghilangkan episode tersebut adalah menghubungi teman dan keluarga yang mengetahui konteks penyakit mentalnya. Akhirnya keluar dari startup AI.

Tidak terpapar gambar yang dihasilkan AI setiap hari membantunya menjadi stabil, meskipun dia baru menyadari bahwa karyanya telah memicu episode ketika mencari tindak lanjut klinis dan menjelaskan apa yang terjadi.

Pemulihan memerlukan waktu, pengobatan dan terapi integratif yang intensif. Sejak itu, telah didirikan a hubungan yang lebih seimbang dengan teknologi. Terus menggunakan AI, tapi menerapkan batasan yang ketat — misalnya, tidak ada perintah di tengah malam dan tidak ada pengulangan yang tidak terbatas.

Dia juga melihat dirinya kembali sebagaimana adanya. Cermin bukan lagi musuhmu.

Hari ini, Anda memahami apa yang terjadi Itu bukan hanya suatu kebetulan antara penyakit mental dan teknologi. Itu adalah salah satu bentuk kecanduan digitaldidukung oleh pencitraan AI selama berbulan-bulan.

Menurut Caitlin, kami sedang membangun alat yang mengaburkan batas antara imajinasi dan kenyataan. Itu Itu indah, tapi juga berbahayaterutama bagi mereka yang sudah tinggal bersama a kerapuhan psikologis.

AI dapat menjadi sumber inspirasi dan visualisasi positif. Datang untuk tinggal. Namun Caitlin juga yakin hal itu diperlukan lebih banyak masalah etikadi bidang kesehatan mental, di sektor teknologi — karena, bagi orang-orang seperti dia, dan bagi banyak orang lainnya yang berada di pinggiran kreativitas mesin, batas antara inspirasi dan ketidakstabilan Ini lebih tipis dari yang kita kira.