Cercetătorii au descoperit că analiza AI a reclamelor Meta a eșuat să oprească sute de anunțuri de abuz asupra copiilor

Peste 250 de reclame suplimentare care conțin materiale de abuz sexual asupra copiilor au difuzat pe platformele Meta în săptămânile după ce compania a lansat noi instrumente AI concepute să detecteze și să blocheze exact acest tip de conținut, potrivit cercetării organizației nonprofit Tech Transparency Project, distribuite cu WIRED și publicate marți. Descoperirea subminează afirmația companiei conform căreia screening-ul reclamelor bazate pe inteligență artificială a redus în mare decalajul și vine în timp ce parlamentarii spun că intenționează să investigheze.

Noile cifre extind o dezvăluire anterioară. Luna trecută, Meta a șters aproximativ 50 de reclame postate pe Facebook, Instagram și Threads care includeau direct materiale de abuz sexual asupra copiilor, în urma raportărilor anterioare de către WIRED. La acea vreme, compania a spus că majoritatea reclamelor abuzive au fost publicate înainte de a implementa noile instrumente de detectare AI. În loc de declinul așteptat, cercetătorii spun că au găsit alte sute de reclame în ultimele săptămâni – inclusiv unele identice cu cele pe care Meta tocmai le-a eliminat. Pentru o acoperire continuă a siguranței platformei și cele mai recente știri AI, urmați AI Buzz Wire.

Scara eșecului

În total, cercetătorii de la Tech Transparency Project au documentat peste 350 de reclame video abuzive difuzate pe platformele Meta de la sfârșitul anului trecut, acoperind Facebook, Instagram, Messenger, Threads și rețeaua de publicitate mai largă a Meta. Spre deosebire de setul inițial de 53 de anunțuri pe care grupul le-a identificat, lotul mai nou a inclus imagini cu copii reali, mai degrabă decât cele pur sintetice. WIRED a confirmat că o imagine sursă provine de pe site-ul oficial al unei familii regale europene; Cercetătorii spun că o fotografie publicată oficial a unui membru minor al familiei a fost manipulată într-un videoclip care înfățișează un act sexual. Cercetătorii nu numesc regalul pentru a proteja victima și spun că au contactat oficialii din țara relevantă.

Katie Paul, directorul grupului, a declarat pentru WIRED că problema nu se limitează la imaginile generate de AI. „Ceea ce vorbim aici nu este pur și simplu material de abuz sexual asupra copiilor generat de inteligență artificială”, a spus ea, menționând că multe imagini par să fi fost preluate de pe web deschis înainte de a fi folosite în reclame. „Există o mulțime de rău care poate veni din asta în timp ce Meta scoate bani în acest proces.” Cercetătorii au identificat identitățile din lumea reală a patru minori ale căror imagini au fost folosite în reclame.

O pâlnie în aplicațiile de nudificare

Reclamele urmează un model consistent, conform raportării. Mulți deschid o imagine inofensivă a unei fete preadolescente sau adolescente – cercetătorii au descoperit doar una care prezintă un băiat – suprapusă cu text care declară că imaginea „nu este doar o fotografie” și că nu există „nicio restricție” cu privire la ceea ce se poate face cu ea. Când este redat videoclipul scurt, chipul copilului este transformat într-un videoclip explicit. Făcând clic, duce la aplicații de schimb de fețe AI și de „nudificare” disponibile în magazinele de aplicații Apple și Google, multe legate de dezvoltatori chinezi. WIRED a identificat separat sute de reclame de nudificare similare care descriu adulți pe platformele Meta.

Recenzii lente și dezvăluiri lipsă

Politicile Meta prevăd că compania examinează toate reclamele care rulează pe platformele sale, iar reclamele au încălcat regulile sale privind exploatarea copiilor, exploatarea adulților și nuditatea. În practică, au raportat cercetătorii, Meta uneori i-a luat până la o săptămână pentru a revizui reclamele live care au fost raportate prin instrumentele proprii ale companiei – timp în care reclamele au acumulat sute de vizualizări suplimentare, conform capturilor de ecran analizate de WIRED. Când unele dintre reclame au fost eliminate, înregistrările lor de eliminare nu aveau inițial nicio dezvăluire că au încălcat politicile companiei privind abuzul sexual asupra copiilor; acele detalii au apărut abia după ce WIRED a întrebat-o pe Meta despre discrepanță.

Cercetătorii au raportat fiecare anunț pe care l-au găsit la Centrul Național pentru Copii Dispăruți și Exploatați CyberTipline și prin instrumentele de raportare Meta. Biblioteca de reclame a lui Meta arată că reclamele au fost afișate în mod colectiv la peste 29.000 de conturi din țările Uniunii Europene și aproximativ 7.000 de conturi în Regatul Unit, cu peste 250 în Statele Unite, 120 în Australia și 80 în India - cifre care probabil subestimează acoperirea totală, deoarece unele țări nu dispun de date granulare privind performanța anunțurilor.

Meta Răspunde

Meta a respins semnificația descoperirilor. „Nu tolerăm aplicațiile de nudificare sau orice fel de exploatare a copiilor, fie că sunt reale sau generate de inteligență artificială”, a declarat purtătorul de cuvânt al companiei, Tracy Clayton, pentru WIRED, adăugând că compania a eliminat anterior sute de mii de reclame pentru încălcarea politicilor sale de nudificare. Meta a spus că multe dintre reclamele găsite de cercetători au fost deja eliminate, că majoritatea au primit mai puțin de 200 de afișări și că au colectat sub 5.000 USD în plăți publicitare. Compania a mai spus că videoclipurile generate de inteligență artificială prezentau adulți, în timp ce clipurile care implică minori erau scurte sau neclare, ceea ce face detectarea mai dificilă și că raportează conținut de exploatare a copiilor către NCMEC.

Legislatorii și autoritățile de reglementare se mută

Mai mulți legiuitori și autorități de reglementare spun acum că investighează sau caută reclamele în urma raportării WIRED. Senatorul de Virginia Mark Warner, care a trimis o scrisoare CEO-ului Meta, Mark Zuckerberg, după raportarea anterioară, a declarat că este „dezamăgitor că Meta continuă să difuzeze reclame care prezintă materiale de abuz sexual asupra copiilor și imagini intime neconsensuale după ce le-au fost aduse la cunoștință”. Procurorul general din Michigan a spus că biroul „se uită în mod activ la chestiune”, procurorul general al Floridei a postat că biroul său investighează, iar autoritatea de reglementare eSafety din Australia a spus că este „foarte îngrijorat” și a solicitat informații de la Meta la un nivel superior.

Controlul adaugă presiune asupra unei companii care plătește deja până la 16,7 miliarde de dolari pentru a soluționa procese care pretind că rețelele sale de socializare au făcut rău copiilor și face apel la o decizie judecătorească din New Mexico, care i-ar cere să-și îmbunătățească procesele de raportare CSAM. Întrebarea mai largă pentru industria AI este dacă moderarea automată poate ține pasul cu abuzul care este în sine din ce în ce mai mult asistat de AI - și dovezi că un sistem de detectare nu a reușit să surprindă sute de reclame care încalcă câteva săptămâni după ce a fost citat ca soluția va alimenta direct acele dezbateri.

Stai înaintea AI

Urmărește cele mai recente evoluții în domeniul inteligenței artificiale și știrile de ultimă oră în materie de inteligență artificială, în timp ce autoritățile de reglementare și platformele se luptă cu daune cauzate de inteligență artificială.

Citiți mai multe știri AI →