“Mengedit foto saya untuk mendapatkan uang saya kembali di DoorDash”… (Kiri: foto asli. Kanan: foto yang diedit AI)
Teknologi AI digunakan untuk memanipulasi foto produk, dengan pelanggan mengklaim pesanan tiba dalam keadaan rusak dan secara curang meminta pengembalian dana.
Platform e-commerce Tiongkok mengalami peningkatan permintaan pengembalian dana palsu yang didorong oleh kecerdasan buatan (AI). Konsumen mengirim Gambar produk rusak yang dihasilkan AI untuk mendapatkan uangnya kembali.
Masalah ini semakin parah selama festival belanja Double 11 pada bulan November tahun ini, ketika beberapa pedagang online melaporkan hal tersebut menerima foto yang dimanipulasi yang konon memperlihatkan buah berjamur, mug retak, atau pakaian robek.
Beberapa pembeli mengklaim mengambil foto nyata barang yang mereka terima dan gunakan Alat AI untuk mengubahnya secara digital.
Seorang penjual buah mengatakan pelanggan menggunakan AI untuk mengubah buah segar menjadi buah busuk, sementara penjual sikat gigi elektrik menerima gambar sikat gigi yang diedit menjadi terlihat berkarat.
“Mereka datang kepada saya dengan masalah yang bertentangan dengan akal sehat,” kata penjaga toko Pos Pagi Tiongkok Selatan.
Sebuah pengecer pakaian melaporkan kasus di mana pelanggan meminta pengembalian dana penuh untuk sebuah gaun, mengklaim bahwa kerahnya sudah usang. Namun, foto terlampir menunjukkan tanda-tanda perubahan karena IA, seperti pencahayaan yang tidak konsisten dan margin buatan, yang menyebabkan tim menolak permintaan tersebut.
Dalam kejadian lain, seorang penjual mug memperhatikan bahwa meskipun kemasannya aman, pembeli mengirimkan foto mug yang retak seperti sarang laba-laba. Saat dia permintaan untuk menunjukkan bukti di video, pembeli segera mencabut pengaduannya.
Detektor AI kemudian menyarankan a kemungkinan 92%. bahwa gambar itu palsu.
Penjual mengklaim bahwa aturan yang ada sering kali menguntungkan konsumen, sehingga memudahkan orang yang berniat buruk untuk menyalahgunakan sistem.
Menanggapi kekhawatiran yang berkembang, platform besar Tiongkok termasuk Taobao dan Tmall menghilangkan opsi “pengembalian dana saja” awal tahun ini dan memperkenalkan a sistem pemeringkatan kredit pembeli berdasarkan riwayat pembelian, pola pengembalian dana, dan umpan balik penjual.
Fenomena ini tidak hanya terjadi di Tiongkok, tetapi juga di beberapa negara Amerika Utara gunakan metode yang sama dengan makanan dikirimkan ke rumah melalui platform seperti DoorDash dan beberapa bahkan membenarkan praktik tersebut karena mereka kehabisan voucher untuk membeli makanan selama penutupan Pemerintah.
Mengedit gambar saya sehingga saya bisa mendapatkan uang saya kembali di DoorDash pic.twitter.com/lLLqB4rJWI
— ☢ (@Raja_Sukunaaa) 4 April 2025
Namun bukan hanya perusahaan yang menyalahgunakan AI: beberapa pemasar juga menggunakan alat generatif untuk melakukannya mempercantik iklan produkmembuat model virtual atau membuat latar belakang, menurut pakar industri. Sudah ada beberapa laporan mengenai situasi seperti ini di cabang real estat.
Tiongkok juga menerapkan aturan identifikasi AI baru pada tanggal 1 September, yang mewajibkan Pelabelan eksplisit dan implisit pada konten yang dihasilkan AI.
Beberapa platform telah menerapkan detektor AI untuk menandai gambar yang tidak berlabel, meskipun para ahli mengatakan akurasi masih menjadi tantangan karena pesatnya evolusi teknologi generatif.
