Saringan Iklan AI Meta Gagal Menghentikan Ratusan Iklan Penderaan Kanak-kanak, Penyelidik Cari

Lebih daripada 250 iklan tambahan yang mengandungi bahan penderaan seksual kanak-kanak dijalankan di seluruh platform Meta dalam beberapa minggu selepas syarikat itu melancarkan alat AI baharu yang direka untuk mengesan dan menyekat kandungan jenis itu, menurut penyelidikan daripada Projek Ketelusan Teknologi bukan untung yang dikongsi dengan WIRED dan diterbitkan pada hari Selasa. Penemuan itu mengurangkan dakwaan syarikat bahawa penyaringan iklan yang dikuasakan AI telah menutup jurang itu, dan ia datang apabila penggubal undang-undang mengatakan mereka merancang untuk menyiasat.

Angka-angka baharu itu melanjutkan pendedahan lebih awal. Bulan lalu, Meta memadamkan kira-kira 50 iklan yang disiarkan di Facebook, Instagram dan Thread yang secara langsung memasukkan bahan penderaan seksual kanak-kanak, berikutan laporan sebelumnya oleh WIRED. Pada masa itu, syarikat itu berkata kebanyakan iklan kesat telah diterbitkan sebelum ia menggunakan alat pengesanan AI baharu. Daripada penurunan yang dijangkakan, penyelidik berkata mereka menemui ratusan lagi iklan dalam beberapa minggu kebelakangan ini — termasuk beberapa iklan yang serupa dengan yang baru dialih keluar oleh Meta. Untuk liputan berterusan keselamatan platform dan berita AI terkini, ikuti AI Buzz Wire.

Skala Kegagalan

Secara keseluruhannya, penyelidik di Projek Ketelusan Teknologi telah mendokumenkan lebih daripada 350 iklan video kesat yang disiarkan pada platform Meta sejak akhir tahun lepas, merangkumi Facebook, Instagram, Messenger, Threads dan rangkaian pengiklanan Meta yang lebih luas. Tidak seperti set awal 53 iklan yang dikenal pasti oleh kumpulan itu, kumpulan yang lebih baharu termasuk imej kanak-kanak sebenar dan bukannya sintetik semata-mata. WIRED mengesahkan bahawa satu imej sumber datang dari laman web rasmi keluarga diraja Eropah; penyelidik berkata gambar yang dikeluarkan secara rasmi mengenai ahli keluarga di bawah umur telah dimanipulasi menjadi video yang menggambarkan perbuatan seks. Para penyelidik tidak menamakan raja untuk melindungi mangsa dan mengatakan mereka menghubungi pegawai di negara berkenaan.

Katie Paul, pengarah kumpulan itu, memberitahu WIRED bahawa masalahnya tidak terhad kepada imejan yang dijana AI. "Apa yang kita bincangkan di sini bukan sekadar bahan penderaan seks kanak-kanak yang dijana AI," katanya sambil menyatakan bahawa banyak imej kelihatan telah diambil dari web terbuka sebelum digunakan dalam iklan. "Terdapat banyak kemudaratan yang boleh datang daripada ini sepanjang Meta mengaut wang dalam proses itu." Para penyelidik mengenal pasti identiti dunia sebenar empat kanak-kanak bawah umur yang imejnya digunakan dalam iklan.

Corong Ke Apl Pembogelan

Iklan mengikut corak yang konsisten, menurut pelaporan. Ramai yang membuka gambar yang tidak berbahaya tentang seorang praremaja atau gadis remaja — penyelidik mendapati hanya satu yang menampilkan seorang lelaki — dilapisi dengan teks yang mengisytiharkan imej itu "bukan sekadar foto" dan "tiada sekatan" terhadap apa yang boleh dilakukan dengannya. Apabila video pendek dimainkan, wajah kanak-kanak itu berubah menjadi video eksplisit. Mengklik melalui petunjuk kepada apl tukar muka AI dan "pembogelan" yang tersedia di gedung apl Apple dan Google, kebanyakannya dipautkan kepada pembangun China. WIRED secara berasingan mengenal pasti beratus-ratus iklan pembogelan berkaitan yang menggambarkan orang dewasa pada platform Meta.

Ulasan Lambat dan Pendedahan Tiada

Dasar Meta menyatakan bahawa syarikat menyemak semua iklan yang disiarkan pada platformnya, dan iklan tersebut melanggar peraturannya mengenai eksploitasi kanak-kanak, eksploitasi dewasa dan kebogelan. Dalam amalan, penyelidik melaporkan, Meta kadang-kadang mengambil masa sehingga seminggu untuk menyemak iklan langsung yang telah dilaporkan melalui alat syarikat sendiri — di mana iklan tersebut mengumpul ratusan paparan tambahan, menurut tangkapan skrin yang disemak oleh WIRED. Apabila sesetengah iklan dialih keluar, rekod alih keluar mereka pada mulanya tidak mempunyai sebarang pendedahan bahawa mereka melanggar dasar penderaan seksual kanak-kanak syarikat; butiran tersebut muncul hanya selepas WIRED bertanya kepada Meta tentang percanggahan itu.

Para penyelidik melaporkan setiap iklan yang mereka temui kepada Pusat Petua Siber Kanak-kanak Hilang dan Dieksploitasi dan melalui alat pelaporan Meta. Pustaka iklan Meta sendiri menunjukkan iklan dipaparkan secara kolektif kepada lebih 29,000 akaun di seluruh negara Kesatuan Eropah dan sekitar 7,000 akaun di United Kingdom, dengan lebih daripada 250 muncul di Amerika Syarikat, 120 di Australia dan 80 di India — angka yang berkemungkinan mengecilkan jumlah capaian, memandangkan sesetengah negara kekurangan data prestasi iklan yang terperinci.

Meta Balas

Meta menolak kepentingan penemuan itu. "Kami tidak bertolak ansur dengan aplikasi bogel atau apa-apa jenis eksploitasi kanak-kanak, sama ada sebenar atau dijana AI," jurucakap syarikat Tracy Clayton memberitahu WIRED, sambil menambah bahawa syarikat itu sebelum ini telah mengalih keluar ratusan ribu iklan kerana melanggar dasar bogelnya. Meta berkata kebanyakan iklan yang ditemui oleh penyelidik telah dialih keluar, kebanyakannya menerima kurang daripada 200 tera dan ia mengumpul di bawah $5,000 dalam pembayaran iklan. Syarikat itu juga berkata video yang dijana AI memaparkan orang dewasa manakala klip yang melibatkan kanak-kanak di bawah umur adalah ringkas atau kabur, menjadikan pengesanan lebih sukar, dan ia melaporkan kandungan eksploitasi kanak-kanak kepada NCMEC.

Penggubal undang-undang dan Pengawal Selia Bergerak

Beberapa penggubal undang-undang dan pengawal selia kini berkata mereka sedang menyiasat atau meneliti iklan berikutan pelaporan WIRED. Senator Virginia Mark Warner, yang menghantar surat kepada Ketua Pegawai Eksekutif Meta Mark Zuckerberg selepas laporan awal, berkata ia "mengecewakan bahawa Meta terus menyiarkan iklan yang memaparkan bahan penderaan seksual kanak-kanak dan imej intim tanpa persetujuan selepas ia dibawa ke perhatian mereka." Peguam negara Michigan berkata pejabat itu "secara aktif meneliti perkara itu," peguam negara Florida menyiarkan bahawa pejabatnya sedang menyiasat, dan pengawal selia eSafety Australia berkata ia "sangat prihatin" dan telah meminta maklumat daripada Meta di peringkat kanan.

Pemeriksaan itu menambah tekanan kepada sebuah syarikat yang telah membayar sehingga $16.7 bilion untuk menyelesaikan tuntutan undang-undang yang mendakwa rangkaian sosialnya memudaratkan kanak-kanak, dan merayu keputusan mahkamah New Mexico yang memerlukannya untuk menambah baik proses pelaporan CSAMnya. Persoalan yang lebih luas untuk industri AI ialah sama ada penyederhanaan automatik boleh seiring dengan penyalahgunaan yang dengan sendirinya semakin dibantu AI — dan bukti bahawa sistem pengesanan gagal menangkap beratus-ratus iklan yang melanggar minggu selepas disebut kerana pembetulan akan dimasukkan terus ke dalam perdebatan tersebut.

Kekal Mendahului AI

Ikuti perkembangan AI terkini dan berita terkini kecerdasan buatan semasa pengawal selia dan platform bergelut dengan bahaya yang dikuasakan AI.

Baca lebih banyak berita AI →