AI akan terjerumus ke dalam “perangkap komodifikasi”

Ketika perusahaan seperti OpenAI menjadi lebih kuat, dan ketika mereka berupaya memberikan dividen kepada investornya, apakah Kecerdasan Buatan rentan terhadap erosi nilai yang sama yang tampaknya mewabah pada platform teknologi yang kita gunakan saat ini?

Penulis dan kritikus teknologi Kanada Cory Doctorow menyerukan erosi kualitas layanan platform teknologi “enshitifikasi” – sebuah istilah yang sulit untuk diterjemahkan secara langsung, namun mengacu pada proses degradasi platform digital secara sengaja.

Namun dalam bahasa Portugis, “merdifikasi” mungkin itu adalah ungkapan yang paling tepat untuk menggambarkan proses secara sederhana.

Premis Doctorow sederhana, ia menjelaskan hal tersebut Kabel: platform teknologi seperti Google, Amazon, Facebook atau TikTok mereka mulai dengan keinginan untuk menyenangkan kepada pengguna, namun setelah menghilangkan persaingan, mereka menjadi sengaja kurang bermanfaatuntuk meningkatkan keuntungan.

Istilah “enshitifikasi” diciptakan oleh Doctorow pada tahun 2022 di a esai perintis tentang fenomena ini, dan memasuki kosa kata terkini — terutama karena banyak yang mengenalinya menggambarkan secara akurat apa yang terjadi. Faktanya, “Enshittification” dipilih oleh American Dialect Society sebagai “Kata Terbaik Tahun Ini” 2023.

Konsep ini telah begitu sering dikutip sehingga melampaui sifat profannya, muncul bahkan dalam publikasi yang biasanya menarik perhatian mereka untuk istilah seperti itu. Doctorow baru saja menerbitkan a buku dengan nama yang sama pada topik yang sampulnya menampilkan emoji yang mudah ditebak.

Jika chatbots dan agen AI “dipasarkan”, konsekuensinya bisa lebih buruk lagi. lebih buruk dari degradasi mesin pencari GoogleHasil Amazon dibanjiri iklan, atau Facebook menampilkan lebih sedikit konten sosial dan clickbait yang lebih menimbulkan kemarahan.

Kecerdasan Buatan mengikuti jalur yang ditakdirkan untuk menjadikannya milik kita perusahaan yang ada di mana-manamenawarkan jawaban langsung dan unik atas banyak permintaan kami. Orang-orang sudah bergantung padanya untuk menafsirkan peristiwa terkini, membuat keputusan pembelian — dan bahkan keputusan hidup.

Mengingat besarnya biaya untuk menciptakan model AI skala besar, maka masuk akal untuk berasumsi demikian hanya sedikit perusahaan yang akan mendominasi industri ini. Mereka semua berencana untuk menginvestasikan ratusan miliar dolar di tahun-tahun mendatang untuk menyempurnakan model mereka dan memberikannya kepada sebanyak mungkin orang.

Saat ini, Kecerdasan Buatan berada pada fase yang disebut Doctorow sebagai “baik untuk pengguna”.

Namun tekanan untuk mendapatkan kembali investasi raksasa ini akan sangat besar – terutama bagi perusahaan yang memiliki penggunanya mereka sudah “terjebak” ke platform mereka, yang mana memungkinkan perusahaan menyalahgunakan penggunanya dan pelanggan bisnis “untuk mendapatkan kembali seluruh nilai bagi diri mereka sendiri”.

Saat kita membayangkan “komodifikasi” AI, skenario pertama yang terlintas dalam pikiran adalah skenario periklanan. Mimpi buruknya akan terjadi jika model AI mulai berfungsi rekomendasi berdasarkan siapa yang membayar untuk tampil. Hal ini belum terjadi, namun perusahaan-perusahaan di sektor ini secara aktif mengeksplorasi hal ini.

Dalam wawancara baru-baru ini dengan Strategi, Sam AltmanCEO OpenAI, mengatakan dia yakin bahwa “mungkin apakah ada produk iklan yang menarik itu bisa menjadi kemenangan bagi pengguna dan positif bagi hubungan kita dengan mereka”.

Namun, OpenAI mengumumkan kesepakatan dengan Walmart yang akan memungkinkan pelanggan pengecer untuk membuat pembelian langsung di aplikasi dari ChatGPT. Tentu saja tidak ada potensi konflik di sana!

Platform pencarian AI Kebingungan sudah memiliki program percobaan di mana hasil yang disponsori tampak teridentifikasi dengan jelas dalam tanggapannya, namun berjanji bahwa pengumuman ini “tidak akan mengubah komitmen kami untuk mempertahankan layanan yang dapat diandalkan yang memberikan Anda jawaban langsung dan tidak memihak”.

Akankah perbatasan ini tetap ada?

“Bagi kami, jaminan utamanya adalah kami tidak akan mengizinkannya,” kata juru bicara Perplexity kepada Wired, Jesse Dwyer. Dan pada Hari Pengembang OpenAI baru-baru ini, Altman mengatakan bahwa perusahaannya “sangat menyadari perlunya berhati-hati” dalam melayani penggunanya — bukan dirinya sendiri.

Tetapi Doctorow tidak memberikan banyak pujian pernyataan seperti ini: “Saat sebuah perusahaan mempunyai kemampuan untuk ‘memasarkan’ produknya, ia akan selalu menghadapinya godaan untuk melakukannya”, tulisnya dalam bukunya.

Menempatkan iklan di percakapan chatbot atau hasil pencarian bukanlah satu-satunya cara AI memasarkan dirinya. kutipan Doctorow beberapa contoh perusahaan bahwa, setelah mendominasi pasar, mengubah model bisnis mereka dan tarif mereka.

Pada tahun 2023, misalnya, Unity, penyedia alat pengembangan video game paling populer, memutuskan untuk mulai mengenakan biaya “laju lariReaksinya sangat negatif pengguna memaksa perusahaan untuk mundur.

Lihat saja layanan streaming berbayar seperti Amazon Prime Video: ini adalah layanan bebas iklan. Sekarang, menampilkan iklan sebelum dan selama filmS. Dan Anda harus membayar lebih untuk menghapusnya. Dan harga Prime terus naik.

Dengan demikian menjadi praktik umum di perusahaan teknologi besar mengunci pengguna ke dalam ekosistem dan kemudian meningkatkan biaya secara progresif.

Bahkan mungkin saja terjadi, untuk mempertahankan tingkat kecerdasan yang sama dalam tanggapan chatbot, pengguna harus membayar untuk menggunakan versi yang lebih mahal, trik “pemasaran” klasik lainnya.

Akankah industri Kecerdasan Buatan akan jatuh? dalam proses “pemasaran” yang diidentifikasi Doctorow secara akurat di raksasa teknologi saat ini? Wired mengajukan pertanyaan yang sama kepada seseorang yang diduga mengetahui segalanya dan lebih banyak lagi: GPT-5 itu sendiri, yang memberikan jawaban yang aneh.

“Model ‘enshitifikasi’ Doctorow (platform memulai dengan memberikan manfaat bagi pengguna, kemudian mentransfer nilai ke pelanggan bisnis, dan akhirnya mengekstraksinya sendiri) berlaku dengan cara yang sangat tepat ke sistem AI, jika insentif tidak dikendalikan”.

GPT-5 selanjutnya menjelaskan berbagai bentuk yang bisa dilakukan oleh perusahaan AI mendegradasi produk mereka demi mencari keuntungan dan kekuasaan.

Perusahaan AI dapat meyakinkan kita bahwa mereka tidak akan “menyedotnya”. Tapi sepertinya produk Anda sendiri telah menulis instruksi manual.