Alat pendeteksi Meta gagal mengidentifikasi foto yang dihasilkan oleh Muse Image AI miliknya sendiri
Awal pekan ini, Meta mengumumkan dua produk AI baru yaitu Muse Image dan Muse Video. Seperti namanya, ini adalah alat AI generatif untuk membuat foto dan klip video menggunakan perintah teks bahasa alami. Segera setelah peluncurannya dimulai, alat-alat ini memicu kontroversi karena Meta secara otomatis mengikutsertakan pengguna Instagram, memungkinkan orang lain untuk menggunakan media yang diposting secara publik dan mengubahnya menjadi konten AI yang di-remix. Namun tampaknya Meta kembali mengalami kekalahan di sisi lapangan. Apa masalahnya? Bersamaan dengan alat AI barunya, Meta memperkenalkan sesuatu yang disebut Content Seal, yang berfungsi sebagai sistem watermarking yang tidak terlihat. Secara teknis, semua gambar yang dibuat oleh Muse Image AI membawa sinyal tersembunyi yang dapat digunakan untuk mengidentifikasi apakah gambar tersebut dibuat menggunakan AI atau tidak. Selain itu, perusahaan juga meluncurkan alat identifikasi AI miliknya sendiri yang dapat membaca tanda air Segel Konten yang tidak terlihat ini. Namun tampaknya alat sniffing AI Meta tidak seakurat yang diklaim perusahaan. Nadeem Sarwar / Tren Digital Menurut analisis Reuters, gambar yang dibuat menggunakan Muse Image AI milik perusahaan tidak dapat dideteksi secara andal sebagai AI yang dihasilkan oleh perangkat lunak identifikasi AI Meta. Outlet tersebut menganalisis 40 gambar yang dibuat oleh Muse Image, tetapi hanya 45% kasus yang mampu mengidentifikasi bahwa gambar tersebut dibuat menggunakan AI. Dalam 55% kasus lainnya, ketika gambar dipotong menjadi sepertiga atau seperempat dari ukuran aslinya, alat pendeteksi AI yang dikembangkan oleh Meta gagal total. Oh, astaga. Itu memalukan! Itu adalah kesalahan yang penting. Di situs webnya, Meta mengklaim bahwa sistem Segel Konten membawa “sinyal asal tersembunyi yang tetap utuh – bahkan ketika dipotong, dikompresi, diubah ukurannya, atau di-screenshot.” Mengikuti analisis Reuters, Meta mengatakan kepada outlet tersebut bahwa alat pendeteksi AI-nya masih dalam tahap pratinjau dan tidak dapat bekerja dengan andal ketika sebuah foto “dipotong secara berlebihan.” Pada halaman FAQ yang tersedia di situs pendeteksi AI-nya, Meta juga menjelaskan bahwa jika gambar dibuat menggunakan produk AI pihak ketiga dan bukan Muse Image, alat pendeteksi tidak akan berfungsi. Nadeem Sarwar / Digital Trends Meta bukan satu-satunya raksasa AI yang menciptakan sistem seperti Content Seal. Google sudah memiliki sistem deteksi gambar AI dan watermarking yang disebut SynthID. Ini juga telah diadopsi oleh OpenAI. Artinya, jika suatu gambar dibuat menggunakan ChatGPT atau Gemini, gambar tersebut membawa tanda air SynthID yang tidak terlihat dan dapat dideteksi menggunakan alat identifikasi AI milik Google, yang kini juga tersedia di Google Penelusuran. Namun, Google juga memperjelas bahwa SynthID tidak 100% aman.
Diterbitkan : 2026-07-10 19:37:00
sumber : www.digitaltrends.com
