Pada saat semakin sulit untuk membedakan antara gambar yang dihasilkan AI dan gambar asli, program penandaan AI Meta dapat mempersulit membedakan keduanya.
Menurut sebuah laporan, beberapa pengguna menuduh perusahaan teknologi besar tersebut secara keliru memberi label pada postingan mereka “dibuat dengan kecerdasan buatan”, meskipun foto tersebut tidak dibuat menggunakan kecerdasan buatan. TechCrunch.dll.
Misalnya, foto pemain basket Foto tersebut, yang diambil oleh mantan fotografer Gedung Putih Pete Souza, diberi label “kecerdasan buatan yang dihasilkan” di Instagram. Berbeda dengan postingan saya sebelumnya, saya memproses video ini beberapa hari setelah kontes. Saya tidak yakin mengapa Instagram menggunakan “Dibuat oleh Kecerdasan Buatan” di postingan saya. Tidak ada kecerdasan buatan di foto saya,” jelas Souza dalam keterangannya.
Dalam satu contoh, seorang pengguna Instagram membagikan bagaimana foto kakek-nenek mereka diberi tag dengan AI, sementara pengguna lain mengatakan bahwa foto asli dirinya yang mengenakan kostum tersebut diberi tag tersebut. Lebih dekat ke rumah, pejabat itu membuat beberapa postingan Penunggang Ksatria Kolkata Pegangannya diberi label “Dibuat dengan AI” dan menyertakan foto tim kriket yang memenangkan Liga Utama India 2024 (cahaya berdenyut yang intens).
Menjelang pemilihan Lok Sabha, Meta mengumumkan akan memberi label pada konten yang dibuat oleh AI dan media yang dimanipulasi Facebook, Instagram dan Topik. Namun inisiatif dari perusahaan yang dipimpin Mark Zuckerberg ini tampaknya masih jauh. Postingan yang diberi label salah sebagai dihasilkan oleh kecerdasan buatan dilaporkan hanya muncul di Action View. Selain itu, penerapan tag AI pada platform yang berbeda tampaknya tidak konsisten karena foto IPL yang sama tidak memiliki tag apa pun di Facebook.
Selain salah memberi label pada foto asli sebagai buatan AI, Meta juga menandai foto yang mungkin telah diedit menggunakan fitur AI seperti isian buatan Adobe. Menurut laporan, Meta akan mempertimbangkan perubahan kecil sekalipun pada foto yang menggunakan fitur AI tersebut untuk dihasilkan oleh AI.
“Tujuan kami adalah membantu orang-orang mengetahui kapan mereka melihat konten yang diproduksi oleh AI. Kami mempertimbangkan masukan terkini dan terus mengevaluasi pendekatan kami sehingga label kami mencerminkan jumlah AI yang digunakan dalam gambar. TechCrunch.dll.
Bagaimana Meta mengidentifikasi dan memberi label pada konten yang dihasilkan oleh kecerdasan buatan?
Saat ini, Meta mengambil pendekatan dua arah untuk mengidentifikasi dan memberi label pada konten yang dihasilkan AI. Pertama, pengguna harus memberi label pada video yang terlihat nyata atau audio yang terlihat nyata yang dihasilkan atau dimodifikasi menggunakan kecerdasan buatan. Hal ini dapat mencakup video yang dihasilkan AI yang secara realistis menunjukkan sekelompok orang berjalan melalui pasar luar ruangan atau Gulungan dengan sulih suara realistis yang dihasilkan AI. Meta memperingatkan bahwa pengguna mungkin akan dikenakan sanksi jika mereka gagal menandai konten tersebut.
Namun, persyaratan pelabelan ini tidak berlaku bagi pengguna yang memposting konten tidak realistis yang dihasilkan oleh kecerdasan buatan, seperti video pemandangan luar ruangan yang dibuat dengan gaya kartun.
Meta mengatakan bahwa selain memungkinkan pengguna mengungkapkan sendiri konten yang dihasilkan AI, ia juga akan mendeteksi sendiri penggunaan AI. “Konten apa pun yang berisi sinyal standar industri yang dihasilkan oleh kecerdasan buatan akan ditandai sebagai “kecerdasan buatan yang diproduksi.” Ini termasuk konten yang dibuat atau diedit menggunakan alat kecerdasan buatan pihak ketiga,” tulis postingan blog tersebut.
ini mungkin berarti Alat deteksi meta Metadata foto sedang dibaca untuk menentukan bahwa foto tersebut dihasilkan oleh AI, meskipun gambar tersebut hanya diubah menggunakan AI.
Meta yang salah memberi label pada konten asli sebagai buatan AI dapat menimbulkan konsekuensi. Misalnya, hal ini dapat menyebabkan pengguna mengabaikan tag “Dibuat oleh AI” sepenuhnya – meskipun tag tersebut diterapkan dengan benar. Pengguna juga menunjukkan bahwa label “Diproduksi oleh Kecerdasan Buatan” tidak dapat dibatalkan pilihannya atau dihapus. Akibatnya, banyak dari mereka yang merancang solusi untuk rencana penandaan AI Meta, seperti menyalin dan menempelkan gambar ke file Photoshop kosong, atau mengunggah tangkapan layar gambar, bukan gambar itu sendiri.
