Luwih saka 250 iklan tambahan sing ngemot materi pelecehan seksual bocah mlayu ing platform Meta ing sawetara minggu sawise perusahaan ngluncurake alat AI anyar sing dirancang kanggo ndeteksi lan mblokir konten kasebut, miturut riset saka Proyek Transparansi Tech nirlaba sing dituduhake karo WIRED lan diterbitake Selasa. Panemuan kasebut nyuda pratelan perusahaan manawa saringan iklan sing dikuwasani AI wis umume nutup jurang kasebut, lan kedadeyan kasebut amarga para ahli parlemen ujar manawa arep neliti.
Angka anyar ngluwihi pambocoran sadurungé. Sasi kepungkur, Meta mbusak kira-kira 50 iklan sing dikirim ing Facebook, Instagram lan Utas sing langsung kalebu materi pelecehan seksual bocah, sawise laporan sadurunge dening WIRED. Ing wektu kasebut, perusahaan ujar manawa umume iklan kasar wis diterbitake sadurunge nggunakake alat deteksi AI anyar. Tinimbang nyuda samesthine, peneliti ujar manawa nemokake atusan luwih akeh iklan ing minggu-minggu kepungkur - kalebu sawetara sing padha karo sing wis dibusak Meta. Kanggo jangkoan terus-terusan babagan safety platform lan kabar AI paling anyar, tututi AI Buzz Wire.
Skala Gagal
Secara total, peneliti ing Tech Transparency Project wis nyathet luwih saka 350 iklan video kasar sing mlaku ing platform Meta wiwit pungkasan taun kepungkur, kalebu Facebook, Instagram, Messenger, Threads lan jaringan iklan Meta sing luwih jembar. Ora kaya set awal saka 53 iklan sing diidentifikasi grup, kumpulan sing luwih anyar kalebu gambar bocah-bocah asli tinimbang sing sintetis. WIRED dikonfirmasi sing siji sumber gambar teka saka situs resmi saka kulawarga kraton Eropah; peneliti ngomong foto resmi dirilis saka anggota suntingan saka kulawarga iki diapusi menyang video nggambaraké tumindak jinis. Peneliti ora menehi jeneng kraton kanggo nglindhungi korban lan ujar manawa dheweke ngubungi pejabat ing negara sing relevan.
Katie Paul, direktur grup kasebut, ngandhani WIRED manawa masalah kasebut ora diwatesi karo citra sing digawe AI. "Apa sing diomongake ing kene ora mung materi penyalahgunaan seks bocah sing digawe AI," ujare, nyathet manawa akeh gambar sing dijupuk saka web mbukak sadurunge digunakake ing iklan kasebut. "Ana akeh gawe piala sing bisa teka saka iki kabeh nalika Meta wis raking dhuwit ing proses." Peneliti ngenali identitas nyata saka papat bocah cilik sing gambar digunakake ing iklan kasebut.
Corong menyang Aplikasi Nudification
Iklan kasebut ngetutake pola sing konsisten, miturut laporan kasebut. Akeh sing mbukak gambar prawan utawa bocah enom sing ora mbebayani - peneliti nemokake mung siji sing nampilake bocah lanang - dilapisi teks sing nyatakake gambar kasebut "ora mung foto" lan "ora ana watesan" babagan apa sing bisa ditindakake. Nalika video cendhak diputer, pasuryan bocah kasebut diowahi dadi video sing jelas. Ngeklik liwat ndadékaké menyang AI face-swapping lan "nudification" app kasedhiya ing Apple lan Google app stores, akeh disambung kanggo pangembang Cina. WIRED kanthi kapisah nemtokake atusan iklan nudifikasi sing gegandhengan sing nggambarake wong diwasa ing platform Meta.
Tinjauan alon lan pambocoran sing ilang
Kawicaksanan Meta nyatakake yen perusahaan mriksa kabeh iklan sing mbukak ing platform kasebut, lan iklan kasebut nglanggar aturan babagan eksploitasi bocah, eksploitasi wong diwasa lan mudho. Ing praktik, para panaliti nglaporake, kadang Meta nganti seminggu kanggo mriksa iklan langsung sing wis dilaporake liwat alat perusahaan dhewe - sajrone iklan kasebut nglumpukake atusan tampilan tambahan, miturut gambar sing dideleng dening WIRED. Nalika sawetara iklan dibusak, cathetan takedown wiwitane ora ana pambocoran yen dheweke nglanggar kabijakan penyalahgunaan seksual anak perusahaan; rincian kasebut mung muncul sawise WIRED takon Meta babagan bedo.
Peneliti nglaporake saben iklan sing ditemokake ing Pusat Nasional kanggo CyberTipline Anak-anak sing Ilang lan Dieksploitasi lan liwat alat pelaporan Meta. Pustaka iklan Meta dhewe nuduhake yen iklan kasebut ditampilake sacara kolektif menyang luwih saka 29.000 akun ing negara-negara Uni Eropa lan sekitar 7.000 akun ing Inggris Raya, kanthi luwih saka 250 ditampilake ing Amerika Serikat, 120 ing Australia lan 80 ing India - angka sing bisa uga nyuda jangkauan total, amarga sawetara negara ora duwe data kinerja iklan sing granular.
Tanggapan Meta
Meta mundur babagan pentinge temuan kasebut. "Kita ora ngidinke aplikasi nudify utawa eksploitasi bocah apa wae, manawa nyata utawa digawe AI," juru bicara perusahaan Tracy Clayton marang WIRED, nambahake manawa perusahaan kasebut sadurunge wis ngilangi atusan ewu iklan amarga nglanggar kabijakan nudifikasi. Meta ujar manawa akeh iklan sing ditemokake para peneliti wis dibusak, sing paling akeh nampa kurang saka 200 tayangan, lan diklumpukake kurang saka $5.000 ing pambayaran iklan. Perusahaan kasebut uga ujar manawa video sing digawe AI nampilake wong diwasa nalika klip sing nglibatake bocah cilik ringkes utawa burem, nggawe deteksi luwih angel, lan nglaporake konten eksploitasi bocah menyang NCMEC.
Legal lan Regulator Pindhah
Akeh anggota parlemen lan regulator saiki ujar manawa lagi nyelidiki utawa ndeleng iklan kasebut sawise laporan WIRED. Senator Virginia Mark Warner, sing ngirim layang CEO Meta Mark Zuckerberg sawise laporan sadurungé, ngandika iku "kuciwo sing Meta terus mbukak iklan nampilaken materi penyalahgunaan seksual anak lan gambar intim nonconsensual sawise digawa menyang manungsa waé." Jaksa Agung Michigan ujar manawa kantor kasebut "aktif nggoleki perkara kasebut," jaksa agung Florida ngirimake manawa kantore lagi nyelidiki, lan regulator eSafety Australia ujar manawa "banget prihatin" lan njaluk informasi saka Meta ing tingkat senior.
Panliten kasebut nambah tekanan kanggo perusahaan sing wis mbayar nganti $ 16.7 milyar kanggo ngrampungake tuntutan hukum sing nyatakake yen jaringan sosial kasebut ngrusak bocah-bocah, lan njaluk keputusan pengadilan New Mexico sing mbutuhake proses nglaporake CSAM. Pitakonan sing luwih wiyar kanggo industri AI yaiku apa moderasi otomatis bisa ngimbangi penyalahgunaan sing terus dibantu AI - lan bukti yen sistem deteksi gagal nyekel atusan minggu iklan sing nglanggar sawise dikutip amarga fix bakal langsung menyang debat kasebut.
Tetep Ahead of AI
Tindakake perkembangan AI paling anyar lan warta intelijen buatan nalika regulator lan platform berjuang karo karusakan sing didhukung AI.
Waca liyane warta AI →
