Meta membuat alat deteksi AI untuk mengidentifikasi gambar dan video yang dibuat dengan model barunya
Meta sedang mengerjakan alat untuk mengidentifikasi gambar dan video yang dibuat dengan model pembuatan gambar barunya, Muse Image. Perusahaan memamerkan pratinjau alat berbasis web yang dapat memeriksa tanda air tak terlihat yang digunakan oleh model baru. Sistem watermarking ini, yang disebut Content Seal, tetap ada “bahkan ketika dipotong, dikompresi, diubah ukurannya, atau di-screenshot,” jelas Meta dalam postingan blognya. “Kami sedang mempratinjau alat pendeteksi yang memungkinkan Anda memeriksa apakah suatu gambar memiliki tanda air Segel Konten, memberikan cara awal untuk membantu Anda lebih memahami apakah suatu gambar dibuat dengan Meta AI.” Content Seal tampaknya merupakan pendekatan baru untuk Meta. Versi yang menjadi bagian dari Muse Image adalah hak milik, meskipun perusahaan sebelumnya telah merilis versi open-source dari teknologi tersebut, kata Meta kepada Engadget. Model baru Meta tidak menyertakan tanda air apa pun yang terlihat, seperti beberapa versi Meta AI sebelumnya yang menambahkan logo kecil di sudut kanan bawah. Untuk saat ini, kemampuan pendeteksian Meta AI terbatas pada gambar yang dibuat atau diedit dengan Muse Image, meskipun perusahaan mengatakan pihaknya berencana untuk memperluas tanda air Content Seal ke video yang dibuat dan diedit oleh AI juga. Meta juga sedang mengerjakan model pembuatan video terpisah yang disebut Muse Video yang akan “segera hadir”. Saya mencoba fitur deteksi baru pada gambar yang saya buat hari ini dengan Meta AI dan alat berbasis web tersebut mampu mendeteksi tanda air untuk gambar yang diedit dan seluruh kreasi buatan AI (seperti gambar di atas). Itu juga menemukan tanda air di tangkapan layar gambar saya. “Hasil positif berarti gambar tersebut dibuat atau diedit menggunakan aplikasi Meta AI atau meta.ai,” perusahaan tersebut menjelaskan dalam FAQ. “Hasil negatif berarti kecil kemungkinan gambar tersebut diproses menggunakan aplikasi Meta AI atau meta.ai.” Menariknya, kemampuan deteksi baru Meta AI sepertinya belum menjadi bagian dari aplikasi Meta AI. Ketika saya bertanya kepada asisten berbasis aplikasi Meta tentang gambar yang diidentifikasi oleh alat web sebagai buatan AI, ia menjawab bahwa ia tidak memiliki kemampuan untuk memeriksa. “Saya tidak bisa memberi tahu Anda secara pasti apakah gambar spesifik ini dibuat dengan Meta Al hanya dengan melihatnya,” katanya. “Meta Al tidak secara otomatis memberi watermark pada gambar, dan saya tidak memiliki alat yang dapat mendeteksi model Al mana yang membuat gambar yang sudah ada.” Meta sebelumnya telah menghadapi beberapa kritik atas cara mereka memberi label dan mengidentifikasi materi yang dihasilkan AI dalam aplikasinya. Dewan Pengawas mengatakan kepada perusahaan awal tahun ini bahwa mereka “prihatin” bahwa Meta “secara tidak konsisten menerapkan” tanda air digital pada konten AI yang dibuat oleh alatnya sendiri. Namun, fitur baru ini tampaknya masih memiliki beberapa keterbatasan. Segel Konten tidak kompatibel dengan Kredensial Konten SynthID atau C2PA, dua metode penandaan air yang digunakan oleh perusahaan lain. Fitur berbasis web tidak dapat mengidentifikasi gambar yang dibuat atau diedit dengan model AI Meta versi sebelumnya dalam pengujian saya. Saat saya menambahkan gambar yang dibuat di obrolan lama dengan Meta AI, saya tidak dapat memberi tahu saya apakah gambar tersebut dibuat dengan AI-nya. Fitur tersebut juga tampaknya, karena alasan tertentu, tunduk pada batasan kecepatan Meta. Setelah mengunggah beberapa contoh, saya diberitahu bahwa saya telah mencapai “batas harian pemeriksaan identifikasi”.
Diterbitkan : 2026-07-07 23:23:00
sumber : www.engadget.com
