Dua algoritma masuk ke sebuah bar… dan semua yang kita beli menjadi lebih mahal

Meskipun tidak ada pertemuan rahasia atau perjanjian ilegal antar algoritma, ketika mereka ditugaskan untuk menetapkan harga secara real time, hal tersebut dapat menyebabkan kenaikan harga yang mengkhawatirkan. Teori Permainan menjelaskan alasannya — dan bagaimana solusinya mungkin melibatkan menghilangkan “penyesalan”.

Bayangkan sebuah kota kecil dengan dua pedagang yang menjual produk tertentu. Pelanggan secara alami lebih menyukai produk yang lebih murah, begitu pula pedagang dipaksa untuk bersaing untuk menawarkan harga terendah.

Muak dengan Anda keuntungan tipiskedua pedagang itu bertemu pada suatu malam di sebuah bar untuk berdiskusi a pesawat rahasia: Jika mereka menaikkan harga bersama-sama dan bukan bersaing, mereka berdua bisa menghasilkan lebih banyak uang.

Tapi semacam ini penetapan harga yang dibuat-buat dan disengajadikenal sebagai kolusiadalah ilegal. Pedagang memutuskan untuk tidak mengambil risiko, dan semua orang terus mendapatkan keuntungan dari produk murah.

Selama lebih dari satu abad, undang-undang di Eropa dan Amerika Serikat, secara umum, mengikuti model berikut: melarang kesepakatan rahasia ini dan dengan demikian menjamin harga yang wajar.

Namun saat ini, hal itu tidak lagi sesederhana itu, jelasnya Majalah Kuanta. Di wilayah perekonomian yang luas, penjual semakin bergantung pada program komputer yang disebut algoritma pembelajaranyang berulang kali menyesuaikan harga sebagai respons terhadap data baru tentang keadaan pasar.

Algoritma ini seringkali jauh lebih sederhana dibandingkan dengan “pembelajaran mendalam” yang saat ini mendorong Kecerdasan Buatan, namun tetap tunduk pada hal tersebut perilaku yang tidak terduga — yang seringkali mengakibatkan penetapan harga yang lebih tinggi.

Jadi bagaimana regulator dapat memastikan bahwa algoritma menetapkan harga yang adil? Pendekatan tradisional tidak lagi berhasilkarena didasarkan pada kemampuan mendeteksi kolusi eksplisit.

“Algoritma pastinya mereka tidak pergi minum bersama”, kata ilmuwan komputer kepada Quanta Harun Rothpeneliti di University of Pennsylvania dan salah satu penulis studi terbaru tentang kolusi antar algoritma.

Selama lebih dari satu abad, penegakan hukum terhadap kartelisasi didasarkan pada gagasan sederhana: melarang kombinasi eksplisit antar pesaing. Jika dua perusahaan bertemu di “sudut gelap” untuk menyepakati harga, itu kejahatan; jika tidak, diasumsikan bahwa pasar yang kompetitif akan menjaga harga tetap rendah.

Tapi, di dunia dimana perusahaan menggunakan algoritma belajar menyesuaikan harga secara real time, logika ini mulai gagal.

Pada tahun 2019, a belajar dikutip secara luas menunjukkan bahwa algoritma yang bersaing, dalam pasar simulasi, mampu “belajar” untuk berkolusi secara diam-diam: setiap kali salah satu menurunkan harga, pihak lain membalas dengan penurunan yang lebih agresif, sehingga menciptakan ancaman implisit dari perang harga.

Hasil akhirnya adalah harga yang lebih tinggi: rasa takut yang sama akan memicu spiral ke bawah ini menyebabkan algoritma menjaga harga tetap tinggi.

Di dalam kamu belajarbaru-baru ini tersedia dalam pra-publikasi di arXivtim Aaron Roth menunjukkan hal itu bahkan algoritma yang tampaknya tidak berbahayayang dirancang hanya untuk memaksimalkan keuntungan mereka sendiri, dalam kondisi tertentu, dapat berakhir mengarah ke harga yang lebih tinggi bagi konsumen.

Kunci dari fenomena ini terletak pada Teori Permainancabang matematika terapan yang mempelajari situasi interaksi strategis antara dua atau lebih “pemain”, di mana Pilihan setiap orang mempengaruhi hasil bagi semua orang — dan yang memungkinkan kita mengetahui, misalnya, pembagian tagihan secara merata Itu selalu lebih mahal.

Konsep sentral dari teori ini adalah “keseimbangan”situasi di mana tidak ada pihak yang memiliki insentif untuk berubah strategi, mengingat perilaku pihak lain.

Banyak algoritma pembelajaran yang justru mencari hal ini: untuk terus melakukan penyesuaian sampai tidak ada cara yang jelas untuk meningkatkan hasilnya.

Jenis algoritma yang sangat penting adalah apa yang disebut “tanpa pertukaran-penyesalan”, yang, dengan cara yang disederhanakan, menjamin hal tersebut setelah beberapa siklus permainanagen Tidak akan melihat ke belakang dengan penyesalan dan dia tidak akan menyimpulkan bahwa dia akan memperoleh lebih banyak jika dia secara sistematis mengganti satu tindakan dengan tindakan lainnya.

Sebuah tim ahli teori permainan membuktikan, di a belajar diterbitkan pada tahun 2000, bahwa ketika dua algoritma jenis ini bersaing satu sama lain dalam permainan apa pun, mereka berakhir menyatu ke bentuk keseimbangan tertentuyang sesuai dengan solusi terbaik dalam skenario putaran tunggal. Dalam permainan satu putaran, “ancaman” tidak berhasil, karena tidak ada “hari esok” untuk melaksanakannya.

Nomor belajar diterbitkan tahun lalu, Jason Hartlineseorang peneliti di Northwestern University, menerapkan hasil ini pada model pasar kompetitif di mana perusahaan dapat menyesuaikan harga dari waktu ke waktu.

Kesimpulannya optimis: jika kedua pesaing menggunakan algoritma tanpa pertukaran-penyesalanharga cenderung kompetitif, dan kolusi menjadi mustahil. Masalah muncul ketika salah satu algoritma ini menghadapi a lawan dari jenis lain.

Dalam penelitian terbaru mereka, Aaron Roth dan rekannya mengamati apa yang terjadi jika a tanpa pertukaran-penyesalan bersaing dengan a strategi “tidak responsif”.: alih-alih bereaksi terhadap perilaku pesaing, penjual memilih a harga acakmengikuti probabilitas tetap yang ditentukan sebelumnya.

Ketika peneliti menghitung probabilitas “optimal” untuk strategi non-responsif ini, menemukan sesuatu yang tidak terduga: cara terbaik untuk memaksimalkan keuntungan terhadap suatu algoritma tanpa pertukaran-penyesalan adalah menugaskan a probabilitas yang sangat tinggi dengan harga yang sangat tinggidan probabilitas yang lebih rendah pada kisaran harga yang lebih rendah.

Dalam istilah praktis, perilaku ini memaksa algoritma pembelajaran untuk melakukannya juga menaikkan hargadi bawah hukuman karena tertinggal rata-rata. Dari waktu ke waktu, pemain yang tidak responsif menurunkan harga dan mengambil kesempatan untuk menarik pelanggan, namun menghabiskan banyak waktu untuk menetapkan harga tinggi.

Sekilas, penulis masih berpikiran seperti itu skenario ini terdengar dibuat-buat. Bukankah seorang penjual yang melihat pesaingnya menghasilkan lebih banyak keuntungan akan mencoba mengubah strateginya?

Tapi satu analisis matematis menunjukkan sebaliknya: ketika kedua jenis algoritma ini saling berhadapan, sistem memasuki keadaan setimbang. Keduanya memiliki keuntungan yang sama dan setinggi-tingginya mengingat strategi yang digunakan. Tidak ada pihak yang mempunyai insentif untuk mengubah algoritmanya.

Namun konsumen selalu terjebak dengan harga yang tinggi — hasil khas dari kolusi, namun tanpa persetujuan, ancaman atau koordinasi yang jelas; Dan Bagi regulator, hal ini menimbulkan dilema. Tidaklah cukup hanya dengan melarang algoritma canggih yang terlihat “terlalu pintar” atau mampu berkomunikasi satu sama lain.

Hartline mengusulkan solusi yang sangat sederhana: melarang semua algoritma harga kecuali yang dari tanpa pertukaran-penyesalanyang bila digunakan oleh semua orangmenekan harga. Bahkan ada metode terbaru untuk memeriksa apakah suatu algoritma memiliki properti ini tanpa perlu memeriksa kodenya.

Tapi bahkan pendekatan ini tidak menyelesaikan semua kasusterutama ketika algoritma bersaing dengan manusia; Lebih jauh lagi, beberapa ahli membantah gagasan bahwa apa yang dijelaskan Roth, secara teknis, adalah kolusi, karena selalu mengandaikan adanya kemungkinan nyata untuk “memilih untuk tidak berkolusi”.

Karena penetapan harga semakin didelegasikan ke algoritme, pemahaman tentang kapan dan bagaimana penetapan harga muncul harga tinggi yang tidak dapat dibenarkandan apa yang harus dilakukan untuk mengatasinya, menjadi pertanyaan sentral dalam kebijakan ekonomi kontemporer.

Sementara itu, kita menunggu hari dimana kita mempelajari algoritma berkembang lagimungkin dengan bantuan Kecerdasan Buatan yang sekarang begitu populer, dan mendapati diri mereka berada dalam hambatan minum sedikit dan setujui harga — dengan sedikit harapan bahwa mereka akan mengunduhnya.