Musisi “dibatalkan” setelah AI Google secara keliru menuduhnya melakukan kejahatan seksual

Pemain biola tersebut bahkan sempat membatalkan konsernya setelah penyelenggara melakukan penelitian terhadapnya dan menemukan AI Google yang mengatakan bahwa dia adalah seorang pelanggar seks. Informasi itu salah.

Musisi Kanada Ashley MacIsaac menjadi korban tak terduga dari kesalahan kecerdasan buatan setelah ringkasan pencarian yang dibuat oleh AI Google menangkapnya salah diidentifikasi sebagai pelaku kejahatan seksualyang menyebabkan pembatalan jadwal pertunjukan di Nova Scotia.

Menurut surat kabar tersebut Globe dan Suratpenyelenggara Sipekne’katik First Nation, yang berlokasi di utara Halifax, membatalkan pertunjukan MacIsaac setelah mereka menemukan “Ikhtisar AI” Google yang secara keliru menggambarkan pemain biola dan penyanyi tersebut sebagai pelanggar seks. Kesalahan tersebut tampaknya terjadi karena AI mencampuradukkan biografi MacIsaac dengan biografi orang lain dengan nama yang sama.

MacIsaac, seorang tokoh musik Kanada yang terkenal selama beberapa dekade, mengatakan kesalahan itu menempatkannya dalam a posisi yang berbahaya dan sangat menyusahkan. “Google melakukan kesalahan dan menempatkan saya dalam situasi berbahaya,” katanya kepada surat kabar tersebut. Meskipun Google telah mengoreksi ringkasan yang dihasilkan AI, musisi tersebut menyatakan bahwa kerusakan mungkin sudah terjadi.

Sebagai artis tur, MacIsaac mengandalkan reputasi dan kepercayaan publiknya untuk mendapatkan pertunjukan. Artis tersebut mengatakan tidak ada cara untuk mengetahui berapa banyak promotor atau tempat yang memutuskan untuk tidak bekerja dengannya. setelah melihat informasi palsuatau berapa banyak calon penggemar yang mempercayainya tanpa pernah melihat koreksinya. “Masyarakat harus sadar bahwa mereka perlu memeriksa keberadaan online mereka untuk melihat apakah nama orang lain muncul,” dia memperingatkan.

Setelah kesalahan teridentifikasi, Sipekne’katik First Nation mengeluarkan permintaan maaf resmi dan menyampaikan undangan untuk presentasi di masa depan. Dalam surat yang dibagikan kepada The Globe and Mail, seorang juru bicara mengakui kerusakan yang disebabkan oleh kesalahan tersebut, dan menulis bahwa komunitas “sangat menyesali kerusakan yang disebabkan oleh kesalahan ini terhadap reputasi Anda, mata pencaharian Anda, dan rasa aman pribadi Anda.” Pernyataan tersebut menekankan bahwa situasi tersebut diakibatkan oleh kasus kesalahan identitas yang disebabkan oleh AI, dan bukan tindakan MacIsaac.

Google, pada bagiannya, membela sistemnya dalam pernyataan umum, dengan mengatakan bahwa hasil pencarian, termasuk Ikhtisar AI, adalah “dinamis dan sering berubahPerwakilan perusahaan menyatakan bahwa kesalahan digunakan untuk memperbaiki sistem dan dapat mengakibatkan tindakan perbaikan sesuai dengan kebijakan Google.

Namun, para kritikus menunjukkan bahwa kerusakan reputasi tidak mudah untuk diperbaiki, terutama ketika tuduhan palsu melibatkan kejahatan serius.