Lebih dari 250 iklan tambahan yang berisi materi pelecehan seksual terhadap anak-anak muncul di platform Meta dalam beberapa minggu setelah perusahaan tersebut meluncurkan alat AI baru yang dirancang untuk mendeteksi dan memblokir konten semacam itu, menurut penelitian dari Proyek Transparansi Teknologi nirlaba yang dibagikan kepada WIRED dan diterbitkan pada hari Selasa. Temuan ini melemahkan klaim perusahaan bahwa penyaringan iklan yang didukung AI telah menutup kesenjangan tersebut, dan hal ini terjadi ketika anggota parlemen mengatakan mereka berencana untuk menyelidikinya.
Angka-angka baru ini memperluas pengungkapan sebelumnya. Bulan lalu, Meta menghapus sekitar 50 iklan yang diposting di Facebook, Instagram, dan Threads yang secara langsung menyertakan materi pelecehan seksual terhadap anak-anak, menyusul laporan sebelumnya oleh WIRED. Pada saat itu, perusahaan mengatakan sebagian besar iklan kasar telah dipublikasikan sebelum mereka menerapkan alat pendeteksi AI yang baru. Alih-alih penurunan yang diharapkan, para peneliti mengatakan mereka menemukan ratusan iklan lagi dalam beberapa minggu terakhir – termasuk beberapa iklan yang identik dengan iklan yang baru saja dihapus Meta. Untuk liputan berkelanjutan mengenai keamanan platform dan berita AI terbaru, ikuti AI Buzz Wire.
Skala Kegagalan
Secara total, para peneliti di Proyek Transparansi Teknologi telah mendokumentasikan lebih dari 350 iklan video kasar yang berjalan di platform Meta sejak akhir tahun lalu, mencakup Facebook, Instagram, Messenger, Threads, dan jaringan periklanan Meta yang lebih luas. Berbeda dengan kumpulan awal yang terdiri dari 53 iklan yang diidentifikasi oleh kelompok tersebut, kumpulan iklan yang lebih baru menyertakan gambar anak-anak asli dan bukan gambar sintetis murni. WIRED mengonfirmasi bahwa satu sumber gambar berasal dari situs resmi keluarga kerajaan Eropa; Para peneliti mengatakan foto anggota keluarga di bawah umur yang dirilis secara resmi telah dimanipulasi menjadi video yang menggambarkan tindakan seks. Para peneliti tidak menyebutkan nama keluarga kerajaan untuk melindungi korban dan mengatakan mereka menghubungi pejabat di negara terkait.
Katie Paul, direktur grup tersebut, mengatakan kepada WIRED bahwa masalahnya tidak terbatas pada citra yang dihasilkan AI. “Apa yang kita bicarakan di sini bukan hanya materi pelecehan seksual terhadap anak yang dihasilkan oleh AI,” katanya, sambil mencatat bahwa banyak gambar tampaknya diambil dari web terbuka sebelum digunakan dalam iklan. "Ada banyak kerugian yang bisa timbul dari semua ini sementara Meta meraup uang dalam prosesnya." Para peneliti mengidentifikasi identitas dunia nyata dari empat anak di bawah umur yang gambarnya digunakan dalam iklan.
Corong Ke Aplikasi Nudifikasi
Iklan tersebut mengikuti pola yang konsisten, menurut pelaporan. Banyak yang membuka gambar tidak berbahaya yang menampilkan seorang gadis praremaja atau remaja – para peneliti hanya menemukan satu gambar yang menampilkan seorang anak laki-laki – yang dilapis dengan teks yang menyatakan bahwa gambar tersebut "bukan sekadar foto" dan bahwa "tidak ada batasan" mengenai apa yang dapat dilakukan dengan gambar tersebut. Saat video pendek diputar, wajah anak tersebut diubah menjadi video eksplisit. Mengklik mengarah ke aplikasi AI face-swapping dan "nudifikasi" yang tersedia di toko aplikasi Apple dan Google, banyak di antaranya terkait dengan pengembang Tiongkok. WIRED secara terpisah mengidentifikasi ratusan iklan nudifikasi terkait yang menggambarkan orang dewasa di platform Meta.
Ulasan Lambat dan Pengungkapan Hilang
Kebijakan Meta menyatakan bahwa perusahaan meninjau semua iklan yang berjalan di platformnya, dan iklan tersebut melanggar peraturannya mengenai eksploitasi anak, eksploitasi orang dewasa, dan ketelanjangan. Dalam praktiknya, para peneliti melaporkan, terkadang Meta memerlukan waktu hingga seminggu untuk meninjau iklan langsung yang telah dilaporkan melalui alat milik perusahaan — di mana iklan tersebut mengumpulkan ratusan penayangan tambahan, menurut tangkapan layar yang ditinjau oleh WIRED. Ketika beberapa iklan dihapus, catatan penghapusannya pada awalnya tidak mengungkapkan bahwa iklan tersebut melanggar kebijakan perusahaan tentang pelecehan seksual terhadap anak; detail tersebut muncul hanya setelah WIRED bertanya kepada Meta tentang perbedaan tersebut.
Para peneliti melaporkan setiap iklan yang mereka temukan ke CyberTipline Pusat Nasional untuk Anak Hilang dan Tereksploitasi dan melalui alat pelaporan Meta. Pustaka iklan Meta sendiri menunjukkan bahwa iklan tersebut secara kolektif ditampilkan ke lebih dari 29.000 akun di negara-negara Uni Eropa dan sekitar 7.000 akun di Inggris, dengan lebih dari 250 akun muncul di Amerika Serikat, 120 di Australia, dan 80 di India — angka yang kemungkinan besar meremehkan jangkauan total, karena beberapa negara tidak memiliki data kinerja iklan yang terperinci.
Meta Merespon
Meta menolak pentingnya temuan tersebut. “Kami tidak menoleransi aplikasi nudifikasi atau eksploitasi anak apa pun, baik yang nyata atau yang disebabkan oleh AI,” kata juru bicara perusahaan Tracy Clayton kepada WIRED, menambahkan bahwa perusahaan tersebut sebelumnya telah menghapus ratusan ribu iklan karena melanggar kebijakan nudifikasinya. Meta mengatakan banyak iklan yang ditemukan para peneliti telah dihapus, sebagian besar menerima kurang dari 200 tayangan, dan mengumpulkan pembayaran iklan kurang dari $5.000. Perusahaan juga mengatakan video yang dihasilkan AI menampilkan orang dewasa, sementara klip yang melibatkan anak di bawah umur dibuat pendek atau buram, sehingga membuat deteksi lebih sulit, dan perusahaan melaporkan konten eksploitasi anak ke NCMEC.
Anggota Parlemen dan Regulator Bergerak
Beberapa anggota parlemen dan regulator sekarang mengatakan mereka sedang menyelidiki atau menyelidiki iklan tersebut setelah pelaporan WIRED. Senator Virginia Mark Warner, yang mengirimkan surat kepada CEO Meta Mark Zuckerberg setelah pemberitaan sebelumnya, mengatakan "mengecewakan bahwa Meta terus menjalankan iklan yang menampilkan materi pelecehan seksual terhadap anak-anak dan gambar intim non-konsensual setelah hal itu menjadi perhatian mereka." Jaksa Agung Michigan mengatakan kantornya "secara aktif menyelidiki masalah ini", Jaksa Agung Florida menyatakan bahwa kantornya sedang melakukan penyelidikan, dan regulator eSafety Australia mengatakan pihaknya "sangat prihatin" dan telah meminta informasi dari Meta di tingkat senior.
Pengawasan ini menambah tekanan pada perusahaan yang sudah membayar hingga $16,7 miliar untuk menyelesaikan tuntutan hukum yang menuduh jaringan sosialnya merugikan anak-anak, dan mengajukan banding atas keputusan pengadilan New Mexico yang mengharuskan perusahaan memperbaiki proses pelaporan CSAM. Pertanyaan yang lebih luas bagi industri AI adalah apakah moderasi otomatis dapat mengimbangi penyalahgunaan yang semakin banyak dibantu oleh AI – dan bukti bahwa sistem deteksi gagal menangkap ratusan iklan yang melanggar beberapa minggu setelah disebut sebagai perbaikan akan menjadi masukan langsung ke dalam perdebatan tersebut.
Tetap Terdepan dalam AI
Ikuti perkembangan AI terkini dan berita terkini tentang kecerdasan buatan saat regulator dan platform bergulat dengan dampak buruk yang disebabkan oleh AI.
Baca berita AI selengkapnya →
