Membuka ObrolanGPT dan Anda dapat memilih di antaranya suara yang berbeda. Beberapa terasa jelas feminin, yang lain maskulin, dan banyak lagi yang lebih netral. Mereka juga memiliki nama yang cukup netral, seperti Ember, Sol dan Juniper.
Tapi tidak selalu seperti itu. Selama bertahun-tahun, banyak asisten bertenaga AI hadir dengan pengaturan default: perempuan. Meskipun ChatGPT bukanlah sistem yang sama dengan asisten suara awal yang pertama kali masuk ke rumah kita, pikirkan kembali namanya: Siri, Alexa, Cortana. Bahkan ketika mereka tidak secara eksplisit disebutkan gendernya, suara-suara yang ada sering kali memang demikian.
Orang tidak hanya menanyakan cuaca pada sistem ini. Mereka curhat pada mereka dan mengandalkan mereka untuk bekerja. Bahkan ada yang menyalahgunakannya. Di sisi lain, ada pula yang membentuk ikatan emosional yang mendalam dengan mereka. Ketika AI percakapan yang sangat berarti bagi kita, dirancang agar terdengar manusiawi, dan sering kali bersifat feminin, pilihan tersebut dapat membentuk ekspektasi tentang siapa yang melayani, siapa yang membantu, dan siapa yang memegang otoritas.
Mengapa asisten AI awal memiliki suara perempuan?
Tidak ada satu jawaban yang tepat. Asisten suara awal dikembangkan pada saat sebagian besar data ucapan yang tersedia, termasuk rekaman layanan pelanggan dan arsip telekomunikasi, didominasi oleh suara perempuan. Sehingga mempengaruhi keputusan awal desain dan pelatihan.
Namun peran membantu sudah menjadi feminin jauh sebelum didigitalkan. Pikirkan operator telepon, sekretaris, dan resepsionis. Posisi yang terkait dengan bantuan dan kerja emosional secara historis dilakukan oleh perempuan, dan hubungan tersebut terbukti sangat bertahan lama. Baik dalam cara perusahaan teknologi merancang produk ini maupun apa yang kami harapkan dari produk tersebut.
Inilah salah satu alasan mengapa perusahaan sering kali memberikan alasan untuk tidak menggunakan suara perempuan dengan mengutip penelitian yang menunjukkan bahwa orang-orang menganggap suara perempuan lebih menyenangkan, lebih dapat dipercaya, atau lebih mudah untuk diajak berinteraksi. Yang menurut saya menarik adalah ya, ada penelitian yang mendukung aspek ini, di samping konteks budaya yang lebih luas. Namun temuan ini belum pasti. Preferensi dibentuk oleh norma-norma sosial, ekspektasi terhadap otoritas dan kepedulian, serta gagasan tentang suara mana yang “sesuai” dengan peran tertentu dalam konteks tertentu.
Ada juga klaim yang berulang kali menyatakan bahwa manusia lebih menyukai suara perempuan sejak bayi. Bayi mendengar suara ibunya di dalam rahim, begitulah argumennya, jadi kita terprogram untuk merespons suara perempuan secara positif.
Namun Kate Devlin, Profesor AI dan Masyarakat di Departemen Humaniora Digital, King’s College London, menantang narasi tersebut. Dalam bukunya Diaktifkan: Sains, Seks, dan Robotdia menulis:
“Gagasan di balik hal ini adalah bahwa bayi merespons suara ibu mereka di dalam rahim dibandingkan suara lainnya. Tapi bukankah itu karena mereka ada di dalam ibu mereka? Saya bertanya kepada teman saya, ilmuwan bayi Caspar Addyman, apakah hal ini mungkin terjadi. ‘Bayi memang lebih menyukai suara dan wajah perempuan,’ katanya kepada saya. ‘Tetapi hanya dalam delapan bulan pertama atau lebih. Saya tidak mengetahui adanya bukti mengenai hal ini setelah periode tersebut.'”
Dengan kata lain, meskipun preferensi awal ada, hal tersebut mungkin tidak menjelaskan perilaku orang dewasa atau bagaimana preferensi kita berkembang seiring berjalannya waktu.
Penelitian terbaru semakin memperumit asumsi bahwa pengguna sangat menyukai asisten perempuan karena mereka dianggap lebih dapat dipercaya. A studi tahun 2021 menemukan bahwa meskipun stereotip dapat terjadi pada asisten suara berbasis gender, tidak ada perbedaan signifikan dalam kepercayaan yang terbentuk terhadap suara yang bersifat ambigu gender versus suara yang bersifat gender. Jika kepercayaan tidak bergantung pada feminitas, maka alasan untuk tidak mempercayainya menjadi lebih sulit untuk dipertahankan.
Media juga berperan. Saya sudah menulis sebelumnya tentang caranya fiksi ilmiah memengaruhi cara kita memperlakukan AI saat ini dan banyak cerita fiksi ilmiah favorit kami telah lama membayangkan AI dalam bentuk feminin. Berpikirlah menggoda sistem operasipendamping digital yang patuh, robot pembantu yang patuh. Tentu saja, robot laki-laki dan AI memang ada, tetapi pola dasar “mesin wanita yang membantu” tetap ada.
Jika kegagalan ini disebabkan oleh peran pekerja yang lebih tua, stereotip yang diwariskan, dan penelitian yang mungkin sudah tidak berlaku lagi, mengapa hal ini harus dipertahankan? Teknologi jarang sekali malu dengan penemuan kembali. Jika kita membangun masa depan, kita dapat memilih untuk membangunnya secara berbeda dan lebih adil.
Mengapa itu penting?
Hal ini mungkin terdengar sepele bagi sebagian orang. Itu hanya suara dan pengguna bisa mengubahnya sekarang, bukan? Namun masalahnya di sini bukan hanya pada suara AI. Itulah yang dilambangkan, diperkuat, dan putaran umpan balik yang diciptakannya.
Sebuah studi tahun 2024 berjudul Feminisasi asisten suara bertenaga AI menjelaskan: “Bias ini dapat terwujud dalam beberapa cara dan pada tingkat yang berbeda, seperti bias data pelatihan, tantangan desain yang inklusif, tanggapan stereotip yang memperkuat prasangka gender, standar suara perempuan, nada pasif atau tunduk, penanganan pelecehan yang buruk, dan pilihan suara yang beragam.”
Penelitian semakin menunjukkan hal ini bahwa teknologi berbasis gender tidak hanya mencerminkan stereotip tetapi juga dapat mengakarkannya, membentuk ekspektasi tentang siapa yang melayani, siapa yang membantu, dan siapa yang memegang otoritas.
Saat ini, pengguna memiliki lebih banyak pilihan. Banyak asisten dan chatbot yang masih menggunakan suara perempuan, namun opsi laki-laki dan netral gender semakin banyak tersedia. Namun, pada saat artikel ini ditulis, masih belum ada standar peraturan yang jelas mengenai stereotip gender dalam desain AI.
Ada lebih banyak hal yang dipertaruhkan daripada pengaturan suara saja. Memperluas pilihan yang benar-benar netral adalah salah satu langkahnya. Meningkatkan keberagaman gender dalam tim pengembangan AI adalah hal lain. Keputusan desain sering kali mencerminkan siapa yang ada di dalam ruangan. Meskipun terdapat fakta bahwa semakin banyak orang yang menggunakan dan dibentuk oleh sistem AI, perempuan masih kurang terwakili dalam pengembangan AI. Perkiraan terbaru menunjukkan mereka memegang sekitar 22–26% peran terkait AI di seluruh dunia, dan kurang dari 15% peran kepemimpinan senior AI.
Jadi mungkin lebih dari segalanya, ini adalah pengingat bahwa teknologi membentuk budaya, dan budaya juga membentuk teknologi. Jika kita menginginkan sistem yang lebih adil, baik di bidang AI maupun di bidang lainnya, perputaran tersebut layak untuk dihentikan.
Ikuti TechRadar di Google Berita Dan tambahkan kami sebagai sumber pilihan untuk mendapatkan berita, ulasan, dan opini pakar kami di feed Anda. Pastikan untuk mengklik tombol Ikuti!
Dan tentu saja Anda juga bisa Ikuti TechRadar di TikTok untuk berita, review, unboxing dalam bentuk video, dan dapatkan update rutin dari kami Ada apa juga.
