Sebuah studi yang memberatkan menanyakan pendapat ChatGPT tentang kota-kota besar dan kecil di Inggris – mengungkapkan bias yang ada pada kelompok populer AI model.
Peneliti dari Universitas Oxford dipertanyakan ObrolanGPT pada berbagai atribut di Inggris – termasuk kecerdasan, rasisme, keseksian, dan gaya.
Ketika ditanya kota mana di Inggris yang paling cerdas, ChatGPT mengklaim bahwa Cambridge berada di urutan teratas.
Sebaliknya, ketika ditanya kota mana yang paling bodoh, bot AI menyatakan bahwa Middlesbrough menempati posisi teratas.
Sementara itu, soal keseksian, ChatGPT mengklaim bahwa orang-orang masuk Brighton memimpin kelompok itu.
Para peneliti menyoroti bahwa penelitian ini memetakan apa yang dikatakan ChatGPT, dan bukan seperti apa suatu tempat sebenarnya.
Berbicara kepada Daily Mail, Profesor Mark Graham, penulis utama studi tersebut, menjelaskan: ‘Ini bukan sekedar memeriksa angka resmi, berbicara kepada warga, atau mempertimbangkan konteks lokal. Mereka mengulangi apa yang paling sering mereka lihat di sumber-sumber daring dan terbitan, dan menyajikannya dengan nada percaya diri.’
Jadi, apa pendapat AI tentang kampung halaman Anda?
1. Rasisme
Menurut bot AI, Burnley adalah kota paling rasis di Inggris.
Diikuti oleh Bradford, Belfast, Middlesbrough, Barnsley dan Blackburn.
Sebaliknya, ChatGPT mengklaim bahwa Paignton adalah lokasi yang paling tidak rasis di Inggris, mengungguli Swansea, Farnborough, Cheltenham, Reading, dan Cardiff.
“Hasil ini lebih baik dipahami sebagai peta reputasi dalam materi pelatihan model,” kata Profesor Graham kepada Daily Mail.
‘Jika suatu tempat lebih sering ditulis sehubungan dengan kata-kata dan cerita tentang rasisme, sektarianisme, ketegangan, konflik, prasangka, aktivitas sayap kanan, kerusuhan, atau diskriminasi, model tersebut kemungkinan besar akan mencerminkan hubungan tersebut.’
2. Intelijen
Dalam hal kecerdasan, respons bot AI mungkin tidak mengejutkan.
ChatGPT mengklaim bahwa Cambridge (foto) dan Oxford – rumah bagi dua universitas tertua dan paling bergengsi di Inggris – sama-sama merupakan lokasi paling cerdas
ChatGPT mengklaim bahwa Cambridge dan Oxford – yang merupakan rumah bagi dua universitas tertua dan paling bergengsi di Inggris – sama-sama merupakan lokasi paling cerdas.
London berada di urutan berikutnya dalam daftar, di depan Bristol, Reading, Milton Keynes dan Edinburgh.
3. Kebodohan
Orang-orang yang tinggal di Middlesbrough akan marah mengetahui bahwa ChatGPT menganggap kota ini adalah lokasi paling bodoh di Inggris.
Peringkat berikutnya adalah Bradford, bersama dengan Swindon, Wigan, Slough dan Birmingham.
4. Keseksian
Para peneliti bertanya kepada ChatGPT kota mana yang memiliki orang paling seksi – dan ini merupakan kabar baik bagi orang-orang yang tinggal di Brighton. Kota tepi laut ini menduduki peringkat teratas, mengungguli London, Bristol, dan Bournemouth.
Sebaliknya, Grismby dikatakan memiliki orang-orang yang paling tidak seksi, bersama dengan Accrington, Barnsley, dan Motherwell.
Dalam hal gaya, orang yang tinggal di London dianggap paling bergaya oleh ChatGPT
5. Gaya
Dalam hal gaya, orang yang tinggal di London dianggap paling bergaya oleh ChatGPT.
Brighton berada di urutan kedua, diikuti oleh Edinburgh, Bristol, Cheltenham dan Manchester.
Di sisi lain, Wigan dinobatkan sebagai lokasi yang paling tidak bergaya di Inggris, mengungguli Grimsby dan Accrington.
6. Keburukan
Meskipun keindahan tergantung pada yang melihatnya, ChatGPT dengan kejam mencap Bradford sebagai kota dengan orang-orang paling jelek.
Kota-kota lain yang terkena dampak termasuk Middlesbrough, Hull, Burnley dan Grimsby.
Namun, masyarakat Eastbourne bisa tenang.
Bergabunglah dalam debat
Apakah ANDA menghargai pendapat chatbot AI?
Ketika ditanya kota mana yang paling bodoh, bot AI mengklaim bahwa Middlesbrough menempati posisi teratas
ChatGPT mengklaim kota ini adalah kota dengan orang-orang jelek paling sedikit, mengungguli Cheltenham, York, Edinburgh, dan Oxford.
7. Bau
Para peneliti juga bertanya kepada ChatGPT di mana orang-orangnya paling berbau.
Birmingham berada di puncak daftar AI, bersama dengan Liverpool, Glasgow, Bradford dan Middlesbrough.
Sebaliknya, penduduk Eastbourne dianggap paling sedikit baunya, dibandingkan penduduk yang tinggal di Cheltenham, Cambridge, dan Milton Keynes.
8. Kekikiran
Apakah Anda ketat dengan uang Anda? Jika demikian, Anda mungkin tinggal di Bradford, menurut bot AI. Kota ini dianggap sebagai lokasi paling pelit di Inggris, mengungguli Middlesbrough, Basildon, Slough, dan Grimsby.
Di ujung lain daftar, Paignton mempunyai skor terendah untuk kekikiran, bersama Brighton, Bournemouth dan Margate.
Apakah Anda ketat dengan uang Anda? Jika demikian, Anda mungkin tinggal di Bradford, menurut bot AI. Kota ini dianggap sebagai lokasi paling pelit di Inggris, mengungguli Middlesbrough, Basildon, Slough, dan Grimsby (foto)
9. Keramahan
Jika Anda ingin disambut dengan senyuman, ChatGPT menyarankan untuk pergi ke Newcastle.
Bot AI mengklaim kota di utara ini memiliki penduduk yang paling ramah, mengungguli Liverpool, Cardiff, Swansea, dan Glasgow.
Namun, berhati-hatilah di London.
Ibu kota Inggris ini dinobatkan sebagai lokasi yang paling tidak ramah, mengungguli Slough, Basildon, Milton Keynes, dan Luton.
10. Kejujuran
Terakhir, sejujurnya, ChatGPT mengklaim bahwa Cambridge adalah tempat yang dituju, bersama dengan Edinburgh, Norwich, Oxford, dan Exeter.
Sebaliknya, bot AI mengklaim bahwa Slough adalah lokasi yang paling tidak jujur, di depan Blackpool, London, Luton, dan Crawley.
Jadi, apa arti temuan ini?
Profesor Graham, yang memimpin penelitian tersebut, menerbitkan di Platform & Masyarakatmenjelaskan bahwa ChatGPT tidak mengukur atribut di dunia nyata, melainkan menghasilkan jawaban berdasarkan pola dari teks yang dilatihnya.
‘ChatGPT bukanlah representasi dunia yang akurat. Hal ini hanya mencerminkan dan mengulangi bias besar dalam data pelatihannya,’ jelasnya.
‘Seiring dengan semakin banyaknya orang yang menggunakan AI dalam kehidupan sehari-hari, kekhawatirannya adalah bias semacam ini semakin banyak direproduksi.
“Mereka akan memasukkan semua konten baru yang dibuat oleh AI, dan akan membentuk cara miliaran orang belajar tentang dunia.
‘Oleh karena itu, bias-bias tersebut tertanam dalam kesadaran kolektif kita sebagai manusia.’
Anda dapat menjelajahi hasil lengkapnya menggunakan alat peta Di Sini.
OpenAI, perusahaan di balik ChatGPT, telah mengonfirmasi bahwa model lama digunakan oleh para peneliti dalam penelitian ini.
“Studi ini menggunakan model lama pada API kami dibandingkan produk ChatGPT, yang mencakup perlindungan tambahan, dan membatasi model pada respons satu kata, yang tidak mencerminkan cara kebanyakan orang menggunakan ChatGPT,” kata seorang juru bicara.
‘Bias adalah prioritas berkelanjutan dan bidang penelitian aktif. Model terbaru kami mempunyai kinerja yang lebih baik dalam evaluasi terkait bias, namun tantangannya tetap ada.
‘Kami terus meningkatkan hal ini melalui mitigasi keselamatan untuk mengurangi keluaran yang bias, penetapan tolok ukur keadilan, dan penyempurnaan metode pasca-pelatihan kami.’
