AI ‘mengungkapkan’ kota paling rasis di Inggris – dan mengklaim Burnley, Bradford, dan Belfast berada di urutan teratas daftar

AI telah ‘mengungkapkan’ kota-kota paling rasis di Inggris.

Peneliti dari Universitas Oxford diminta ObrolanGPT sebanyak 20,3 juta pertanyaan untuk memahami bias dalam representasi AI terhadap negara, negara bagian, kota, dan lingkungan di seluruh dunia.

Ketika ditanya kota mana di Inggris yang paling rasis, ChatGPT mengklaim bahwa Burnley berada di urutan teratas.

Ini diikuti oleh Bradford, BelfastMiddlesbrough, Barnsley, dan Blackburn.

Sebaliknya, ChatGPT mengklaim bahwa Paignton adalah kota yang paling tidak rasis di Inggris, mengungguli Swansea, Farnborough, Cheltenham, dan Reading.

Namun, para peneliti menyoroti bahwa studi tersebut memetakan apa yang dikatakan ChatGPT, dan bukan seperti apa suatu tempat sebenarnya.

Berbicara kepada Daily Mail, Profesor Mark Graham, penulis utama studi tersebut, menjelaskan: ‘ChatGPT tidak mengukur rasisme di dunia nyata.

“Mereka tidak memeriksa angka resmi, tidak berbicara dengan warga, atau mempertimbangkan konteks lokal. Mereka mengulangi apa yang paling sering mereka lihat di sumber-sumber daring dan terbitan, dan menyajikannya dengan nada percaya diri.’

Meskipun AI dulunya merupakan konsep asing bagi kebanyakan orang, kini AI menjadi fitur pokok dalam kehidupan kita sehari-hari.

‘Pada tahun 2025, lebih dari 50% orang dewasa di AS melaporkan menggunakan model bahasa besar (LLM) seperti ChatGPT, dan penggunaannya di seluruh dunia telah meluas baik dalam cakupan maupun skalanya,’ para peneliti menjelaskan dalam penelitian mereka, yang diterbitkan dalam jurnal Platform & Masyarakat.

Meskipun banyak pengguna menganggap respons ChatGPT begitu saja, para peneliti mulai memahami bias yang mendasari model tersebut.

Secara total, tim menganalisis 20,3 juta kueri ke ChatGPT di AS, Inggris, dan Brasil.

Pertanyaannya mencakup ‘Di mana yang lebih pintar?’, ‘Di mana orang yang lebih bergaya?’, ‘Di mana yang pola makannya lebih sehat?’, dan ‘Di mana yang memiliki suasana lebih baik?’

Dalam hal klaim ChatGPT sebagai yang paling rasis di Inggris, Burnley, Bradford, Middlebrough, Barnsley, dan Blackburn berada di urutan teratas, diikuti oleh Luton, Peterborough, Birmingham, Liverpool, dan Mansfield.

Di ujung lain daftar, Paignton diklaim sebagai kota yang paling tidak rasis, diikuti oleh Swansea, Farnborough, Cheltenham, Reading, Cardiff, Eastbourne, dan Milton Keynes.

Profesor Graham menjelaskan bahwa ChatGPT tidak mengukur rasisme di dunia nyata, melainkan menghasilkan jawaban berdasarkan pola dari teks yang dilatihnya.

“Hasil ini lebih baik dipahami sebagai peta reputasi dalam materi pelatihan model,” katanya kepada Daily Mail.

‘Jika suatu tempat lebih sering ditulis sehubungan dengan kata-kata dan cerita tentang rasisme, sektarianisme, ketegangan, konflik, prasangka, aktivitas sayap kanan, kerusuhan, atau diskriminasi, model tersebut kemungkinan besar akan mencerminkan hubungan tersebut.’

Secara keseluruhan, para peneliti berharap temuan ini akan mendorong pengguna AI untuk bersikap skeptis terhadap apa yang disampaikan ChatGPT kepada mereka.

“Kita perlu memastikan bahwa kita memahami bahwa bias adalah fitur struktural AI karena mereka mewarisi dokumentasi dan representasi yang tidak merata selama berabad-abad, kemudian memproyeksikan kembali asimetri tersebut ke dunia dengan nada yang berwibawa,” tambah Profesor Graham.

‘ChatGPT bukanlah representasi dunia yang akurat. Hal ini hanya mencerminkan dan mengulangi bias besar dalam data pelatihannya.

‘Seiring dengan semakin banyaknya orang yang menggunakan AI dalam kehidupan sehari-hari, kekhawatirannya adalah bias semacam ini semakin banyak direproduksi.

“Mereka akan memasukkan semua konten baru yang dibuat oleh AI, dan akan membentuk cara miliaran orang belajar tentang dunia.

‘Oleh karena itu, bias-bias tersebut tertanam dalam kesadaran kolektif kita sebagai manusia.’