CEO OpenAI, Sam Altman, mengkonfirmasi minggu ini bahwa perusahaan sedang membangun a perangkat baru yang mengutamakan AI. Dia mengatakan hal ini akan sangat kontras dengan kekacauan dan kekacauan yang terjadi pada ponsel dan aplikasi kita. Memang benar, ia membandingkan penggunaannya dengan “duduk di kabin terindah di tepi danau dan pegunungan dan sekadar menikmati kedamaian dan ketenangan.” Namun memahami Anda dalam konteks dan menganalisis kebiasaan, suasana hati, dan rutinitas Anda terasa lebih intim daripada yang dilakukan kebanyakan orang dengan orang yang mereka cintai, apalagi perangkat keras.
Pembingkaiannya mengaburkan kenyataan yang sangat berbeda. Perangkat yang dirancang untuk memantau kehidupan Anda secara terus-menerus, untuk mengumpulkan detail tentang di mana Anda berada, apa yang Anda lakukan, cara Anda berbicara, dan banyak lagi suara-suara yang menyesakkan. Meminta pengamat elektronik menyerap setiap nuansa perilaku Anda dan menyesuaikan diri dengan kehidupan Anda mungkin terdengar oke, sampai Anda mengingat data apa yang dilalui untuk memberikan analisis.
Menyebut perangkat itu menenangkan seperti menutup mata dan berharap Anda tidak terlihat. Ini adalah pengawasan, sukarela, namun mencakup semua hal. Janji ketenangan terasa seperti kedok cerdas untuk menyerahkan privasi dan lebih buruk lagi. Kesadaran konteks 24/7 tidak sama dengan perdamaian.
AI memperhatikanmu
Kesendirian dan kedamaian bergantung pada rasa aman. Perangkat yang mengaku memberi saya ketenangan dengan menghilangkan batasan tersebut hanya membuat saya terpapar. Analogi kabin di tepi danau Altman sangat menggoda. Siapa yang tidak bermimpi untuk melarikan diri dari ping notifikasi yang terus-menerus, iklan yang berkedip-kedip, kekacauan algoritmik aplikasi modern, tentang meninggalkan semua itu dan menuju retret yang damai? Namun ketenangan yang dibangun berdasarkan pengamatan terus-menerus hanyalah ilusi.
Ini bukan sekadar skeptisisme. Ada paradoks yang mengakar di sini. Semakin peka konteks dan responsif perangkat ini, semakin banyak informasi yang diketahui tentang Anda. Semakin banyak yang diketahui, semakin besar potensi intrusi.
Versi ketenangan yang Altman coba jual kepada kita bergantung pada kebijaksanaan yang tidak terbatas. Kita harus memercayai semua data kita kepada orang yang tepat dan yakin bahwa suatu algoritma, dan perusahaan di baliknya, akan selalu menangani informasi pribadi kita dengan rasa hormat dan hati-hati. Kita harus percaya bahwa mereka tidak akan pernah mengubah data menjadi pengaruh, tidak pernah menggunakannya untuk mempengaruhi pemikiran kita, keputusan kita, politik kita, kebiasaan belanja kita, hubungan kita.
Ini merupakan pertanyaan besar, bahkan sebelum melihat sejarah Altman mengenai hak kekayaan intelektual.
Lihat dan ambil
Altman telah berulang kali membela penggunaan karya berhak cipta untuk pelatihan tanpa izin atau kompensasi kepada pencipta. Dalam sebuah wawancara pada tahun 2023, ia mengakui bahwa model AI telah “menyedot pekerjaan dari internet,” termasuk materi berhak cipta tanpa izin eksplisit, dan hanya menyerapnya secara massal sebagai data pelatihan. Dia mencoba menggambarkan hal tersebut sebagai masalah yang hanya bisa diatasi “setelah kita menemukan model ekonomi yang bisa bermanfaat bagi masyarakat.” Ia mengakui bahwa banyak orang kreatif yang kecewa, namun ia hanya memberikan janji samar bahwa suatu hari nanti mungkin ada sesuatu yang lebih baik.
Dia mengatakan bahwa memberikan kesempatan kepada kreator untuk ikut serta dan memperoleh bagi hasil mungkin merupakan hal yang “keren” jika mereka mau, namun dia menolak menjamin bahwa model seperti itu akan benar-benar diterapkan. Jika kepemilikan dan izin merupakan kemudahan opsional bagi kreator, mengapa konsumen diperlakukan berbeda?
Ingatlah bahwa dalam beberapa jam setelah peluncuran, Sora 2 dibanjiri klip yang menggunakan karakter berhak cipta dan waralaba terkenal tanpa izin, sehingga memicu reaksi hukum. Perusahaan tersebut dengan cepat mengubah arah dan mengumumkan bahwa mereka akan memberikan “kendali yang lebih terperinci” kepada pemegang hak cipta dan beralih ke model keikutsertaan dalam hal kemiripan dan karakter.
Pembalikan ini mungkin tampak seperti akuntabilitas. Namun juga merupakan pengakuan diam-diam bahwa rencana awal pada dasarnya adalah memperlakukan upaya kreatif setiap orang sebagai bahan mentah gratis. Memperlakukan konten sebagai sesuatu yang Anda miliki, bukan sesuatu yang Anda hormati.
Baik dalam bidang seni maupun data pribadi, pesan dari Altman tampaknya adalah bahwa akses dalam skala besar lebih penting daripada persetujuan. Perangkat yang diklaim memberikan ketenangan dengan menghilangkan gesekan dan memperlancar kehidupan digital Anda berarti perangkat yang mengawasi kehidupan tersebut. Kenyamanan tidak sama dengan kenyamanan.
Saya tidak berargumentasi di sini bahwa semua asisten AI itu jahat. Namun memperlakukan AI seperti kotak peralatan tidak sama dengan menjadikannya sebagai kepercayaan dalam setiap elemen kehidupan saya. Beberapa orang mungkin berpendapat jika desain perangkatnya bagus, dan ada perlindungan yang nyata. Namun argumen tersebut mengasumsikan masa depan yang sempurna, dikelola oleh orang-orang yang sempurna. Sejarah tidak memihak kita.
Perangkat yang Altman dan OpenAI rencanakan untuk dijual mungkin bagus untuk segala jenis hal dan layak untuk privasi perdagangan, tetapi buatlah tradeoff itu jelas. Danau yang tenang itu mungkin juga merupakan lensa kamera, namun jangan berpura-pura bahwa lensa tersebut tidak ada.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
Laptop bisnis terbaik untuk semua anggaran
