Mantan bintang Disney Calum Worthy dikecam karena aplikasinya yang menggunakan kecerdasan buatan (AI) untuk membuat avatar orang-orang terkasih yang telah meninggal.
Dalam sebuah postingan di X, Worthy, 34, membagikan iklan yang meresahkan untuk aplikasi tersebut, dengan menulis: ‘Bagaimana jika orang-orang terkasih yang hilang bisa menjadi bagian dari masa depan kita?’
Mr Worthy, yang berperan sebagai Dez Wade di serial Disney Channel Austin & Ally, menambahkan bahwa perusahaannya, yang didirikan bersama dengan produser Hollywood Russell Geyser, sedang ‘membangun arsip kemanusiaan yang hidup’.
Iklan kontroversial tersebut memperlihatkan seorang wanita hamil berbicara dengan rekreasi AI dari mendiang ibunya melalui aplikasi bertajuk 2wai.
Video tersebut kemudian melompat ke masa depan, memperlihatkan sang ‘nenek’ membacakan cerita pengantar tidur kepada bayi laki-laki yang baru lahir, berbicara dengan mereka saat mereka kembali dari sekolah, dan mendiskusikan kelahiran anak mereka sendiri.
Terakhir, video tersebut memperlihatkan wanita tersebut membuat rekaman singkat tentang ibunya untuk membuat avatar digital, dengan slogan yang berbunyi: ‘Dengan 2wai, tiga menit bisa bertahan selamanya’.
Pengguna media sosial marah dengan konsep tersebut dan menjulukinya sebagai ‘salah satu ide paling jahat yang bisa dibayangkan’.
Banyak yang menganggap konsekuensi dari teknologi ini sangat mengerikan, dan salah satu komentator menggambarkan aplikasi tersebut sebagai ‘jahat, tidak jujur, dan tidak manusiawi.’
Mantan bintang Disney Calum Worthy mendapat kecaman karena aplikasinya, bernama 2wai, yang memungkinkan pengguna membuat ulang avatar digital orang yang mereka cintai yang telah meninggal (foto)
Di media sosial, penggemar teknologi bereaksi ngeri terhadap iklan perusahaan yang memperlihatkan seorang wanita berbicara dengan avatar AI dari ibunya yang telah meninggal (foto). Beberapa pengguna bercanda bahwa Mr Worthy jelas-jelas melewatkan inti cerita fiksi ilmiah yang bersifat peringatan
Di X, seorang pemberi komentar secara blak-blakan menggambarkan aplikasi 2WAI sebagai ‘salah satu ide paling jahat yang bisa dibayangkan’
2wai – diucapkan ‘dua arah’ – kini tersedia untuk perangkat iOS di App Store dan memungkinkan pengguna membuat avatar virtual, yang oleh perusahaan disebut ‘HoloAvatar’.
Ini pada dasarnya adalah antarmuka animasi untuk chatbots, yang dirancang agar terlihat seperti individu nyata atau fiksi.
Perusahaan telah membuat beberapa HoloAvatar default, termasuk pelatih pribadi bernama Darius, ahli astrologi bernama Celeste, dan koki bernama Luca.
2wai juga mengambil kemiripan dengan tokoh-tokoh sejarah seperti Shakespeare dan, anehnya, Raja Henry VIII.
Namun, aspek yang paling mengejutkan dari teknologi ini adalah kemampuan untuk membuat HoloAvatar dari individu sungguhan dengan merekam video berdurasi tiga menit dari mereka.
Perusahaan belum membagikan informasi apa pun tentang bagaimana sejumlah kecil data ini memungkinkan AI menciptakan kembali kepribadian seseorang, dan 2wai tidak menanggapi permintaan informasi lebih lanjut.
Namun, janji bahwa aplikasi tersebut akan memungkinkan pengguna untuk menghidupkan kembali orang yang mereka cintai tanpa batas waktu karena chatbots telah memicu peringatan etis.
Beralih ke X, salah satu pemberi komentar menulis: ‘Tidak ada yang lebih mengungkapkan kasih sayang selain mengubah kesedihan seseorang menjadi peluang bisnis.’
Salah satu pengguna media sosial mengecam aplikasi tersebut, menyebutnya ‘jahat, tidak jujur, dan tidak manusiawi,’ dan menambahkan bahwa mereka akan ‘mengutuk’ siapa pun yang mencoba menghidupkan kembali aplikasi tersebut sebagai avatar AI.
Beberapa penggemar teknologi menunjukkan kemiripan yang jelas dengan sebuah episode serial fiksi ilmiah kelam Black Mirror
Konsep ini memiliki kemiripan yang mencolok dengan episode Black Mirror ‘Be Right Back’ (foto), di mana seorang wanita yang berduka membuat ulang salinan digital dari mendiang pasangannya.
Yang lain bercanda: ‘Hei, jadi bagaimana jika kita tidak melakukan necromancy model langganan?’
Sementara yang lain dengan blak-blakan menambahkan: ‘Anda harus dimasukkan ke dalam penjara.’
Tentu saja, penggemar teknologi dengan cepat melihat kemiripan yang jelas dengan episode Black Mirror ‘Be Right Back’, di mana seorang wanita yang berduka membuat ulang salinan digital dari mendiang pasangannya.
Meskipun episode tersebut dimaksudkan sebagai kisah peringatan kelam tentang bahaya penggunaan teknologi untuk mengingat masa lalu, Mr Worthy dan tim di 2wai tampaknya tidak memahami pesan tersebut.
‘Saya ingin memahami silsilah wirausahawan yang secara tidak ironis menampilkan episode cermin hitam sebagai startup,’ salah satu komentar berkomentar.
Yang lain dengan bercanda menulis: ‘Sepertinya ini episode Black Mirror yang paling mengganggu hingga saat ini. Tak sabar menunggu!’
Yang lain khawatir tentang bahaya menyerahkan identitas orang yang Anda cintai kepada perusahaan AI dan konsekuensi psikologis yang mungkin ditimbulkannya.
Secara khusus, para pemberi komentar khawatir dengan kemungkinan bahwa anggota keluarga mereka dapat digunakan untuk iklan atau tujuan lain di luar kendali mereka.
Banyak komentator di X khawatir bahwa menjaga orang yang dicintai tetap hidup melalui AI akan mengganggu proses kesedihan yang normal
Yang lain khawatir tentang kemungkinan orang yang mereka cintai akan dimanfaatkan untuk menjual produk atau iklan kepada mereka
Seorang pemberi komentar khawatir bahwa mereka mungkin melihat orang yang dicintainya telah meninggal mempromosikan perusahaan atau menawarkan layanan periklanan
Salah satu penggemar teknologi menulis di X: ‘Ya ampun, cara lain bagi orang-orang untuk benar-benar kehilangan kontak dengan kenyataan dan menghindari proses kesedihan yang normal.’
Dan orang lain yang peduli menambahkan: ‘Tunggu saja sampai ‘orang yang Anda cintai’ berbagi resep casserole keluarga mereka yang terkenal dengan Anda memberi tahu Anda tentang penjualan kacang kalengan di Food Lion dan memberikan kupon.’
Meskipun mendapat reaksi keras, Worthy bukanlah orang pertama yang mencoba menggunakan teknologi untuk menghidupkan kembali orang mati.
Pada tahun 2020, Kanye West memberi hadiah terkenal kepada Kim Kardashian rekreasi holografik mendiang ayahnya, Rob Kardashian.
Sejak itu, AI telah digunakan untuk menciptakan kembali suara selebriti yang sudah meninggal seperti Edith Piaf, James Dean, dan Burt Reynolds.
Ada juga peningkatan menakjubkan dalam apa yang disebut ‘deadbots’ yang meniru orang-orang terkasih yang telah meninggal dengan menciptakan kembali pola bicara dan kepribadian mereka.
Misalnya, perusahaan Project December dan Hereafter memungkinkan pengguna untuk menciptakan kembali orang yang mereka cintai hanya dengan memberikan informasi kepada AI tentang seperti apa mereka.
