Lo screening pubblicitario dell'intelligenza artificiale di Meta non è riuscito a fermare centinaia di annunci di abusi sui minori, scoprono i ricercatori

Più di 250 ulteriori annunci pubblicitari contenenti materiale pedopornografico sono stati pubblicati sulle piattaforme di Meta nelle settimane successive al lancio di nuovi strumenti di intelligenza artificiale progettati per rilevare e bloccare esattamente quel tipo di contenuti, secondo una ricerca del Tech Transparency Project senza scopo di lucro condivisa con WIRED e pubblicata martedì. La scoperta smentisce l’affermazione dell’azienda secondo cui lo screening degli annunci basato sull’intelligenza artificiale aveva in gran parte colmato il divario, e arriva mentre i legislatori dicono che intendono indagare.

I nuovi dati estendono una precedente informativa. Il mese scorso, Meta ha eliminato circa 50 annunci pubblicati su Facebook, Instagram e Threads che includevano direttamente materiale pedopornografico, a seguito di precedenti segnalazioni di WIRED. All’epoca, la società affermò che la maggior parte degli annunci offensivi erano stati pubblicati prima dell’implementazione dei nuovi strumenti di rilevamento dell’intelligenza artificiale. Invece del previsto calo, i ricercatori affermano di aver trovato centinaia di annunci in più nelle ultime settimane, inclusi alcuni identici a quelli che Meta aveva appena rimosso. Per una copertura continua sulla sicurezza della piattaforma e le ultime notizie sull'intelligenza artificiale, segui AI Buzz Wire.

La portata del fallimento

In totale, i ricercatori del Tech Transparency Project hanno documentato più di 350 annunci video offensivi pubblicati sulle piattaforme di Meta dalla fine dello scorso anno, su Facebook, Instagram, Messenger, Threads e la più ampia rete pubblicitaria di Meta. A differenza della serie iniziale di 53 annunci identificati dal gruppo, il lotto più recente includeva immagini di bambini reali anziché immagini puramente sintetiche. WIRED ha confermato che un'immagine originale proveniva dal sito ufficiale di una famiglia reale europea; i ricercatori affermano che una fotografia rilasciata ufficialmente di un membro minore della famiglia è stata manipolata in un video che raffigurava un atto sessuale. I ricercatori non nominano il reale per proteggere la vittima e affermano di aver contattato le autorità del paese in questione.

Katie Paul, direttrice del gruppo, ha dichiarato a WIRED che il problema non si limita alle immagini generate dall'intelligenza artificiale. "Ciò di cui stiamo parlando qui non è semplicemente materiale pedopornografico generato dall'intelligenza artificiale", ha affermato, sottolineando che molte immagini sembrano essere state prese dal web aperto prima di essere utilizzate nella pubblicità. "Ci sono molti danni che possono derivare da tutto questo mentre Meta sta raccogliendo soldi nel processo." I ricercatori hanno identificato le identità del mondo reale di quattro minori le cui immagini sono state utilizzate nelle pubblicità.

Un canale verso le app di nudità

Gli annunci seguono uno schema coerente, secondo il rapporto. Molti si aprono con un'immagine innocua di una preadolescente o di un'adolescente - i ricercatori ne hanno trovata solo una raffigurante un ragazzo - con sovrapposta un testo che dichiara che l'immagine "non è solo una foto" e che non ci sono "nessuna restrizione" su cosa si può fare con essa. Quando viene riprodotto il breve video, il volto del bambino viene trasformato in un video esplicito. Facendo clic si accede alle app AI per lo scambio di volti e la "nudificazione" disponibili negli app store di Apple e Google, molte delle quali collegate a sviluppatori cinesi. WIRED ha identificato separatamente centinaia di annunci di nudità correlati che raffigurano adulti sulle piattaforme di Meta.

Recensioni lente e informazioni mancanti

Le politiche di Meta stabiliscono che l'azienda esamina tutti gli annunci pubblicati sulle sue piattaforme e che gli annunci violano le sue regole sullo sfruttamento dei minori, sullo sfruttamento degli adulti e sulla nudità. In pratica, hanno riferito i ricercatori, a volte Meta impiegava fino a una settimana per rivedere gli annunci live che erano stati segnalati tramite gli strumenti dell'azienda, durante i quali gli annunci accumulavano centinaia di visualizzazioni aggiuntive, secondo gli screenshot esaminati da WIRED. Quando alcuni annunci sono stati rimossi, i registri di rimozione inizialmente non contenevano alcuna informazione sulla violazione delle politiche aziendali sugli abusi sessuali sui minori; quei dettagli sono apparsi solo dopo che WIRED ha chiesto a Meta della discrepanza.

I ricercatori hanno segnalato ogni annuncio trovato alla CyberTipline del Centro nazionale per i bambini scomparsi e sfruttati e attraverso gli strumenti di segnalazione di Meta. La libreria di annunci di Meta mostra che gli annunci sono stati mostrati collettivamente a più di 29.000 account nei paesi dell'Unione Europea e a circa 7.000 account nel Regno Unito, di cui più di 250 negli Stati Uniti, 120 in Australia e 80 in India: cifre che probabilmente sottostimano la copertura totale, dal momento che alcuni paesi non dispongono di dati granulari sul rendimento degli annunci.

Meta risponde

Meta ha respinto l'importanza dei risultati. "Non tolleriamo le app di nudizzazione o qualsiasi tipo di sfruttamento minorile, reale o generato dall'intelligenza artificiale", ha detto a WIRED il portavoce dell'azienda Tracy Clayton, aggiungendo che la società ha precedentemente rimosso centinaia di migliaia di annunci per aver violato le sue politiche di nudità. Meta ha affermato che molti degli annunci trovati dai ricercatori erano già stati rimossi, che la maggior parte aveva ricevuto meno di 200 impressioni e che aveva raccolto meno di 5.000 dollari in pagamenti pubblicitari. La società ha inoltre affermato che i video generati dall’intelligenza artificiale presentavano adulti mentre le clip che coinvolgevano minori erano brevi o sfocate, rendendo il rilevamento più difficile e che segnalava i contenuti di sfruttamento minorile all’NCMEC.

I legislatori e i regolatori si muovono

Numerosi legislatori e regolatori ora affermano che stanno indagando o esaminando gli annunci pubblicitari in seguito alla segnalazione di WIRED. Il senatore della Virginia Mark Warner, che ha inviato una lettera al CEO di Meta Mark Zuckerberg dopo la precedente segnalazione, ha affermato che è "deludente che Meta continui a pubblicare annunci contenenti materiale pedopornografico e immagini intime non consensuali dopo che è stato portato alla loro attenzione". Il procuratore generale del Michigan ha affermato che l'ufficio sta "esaminando attivamente la questione", il procuratore generale della Florida ha pubblicato che il suo ufficio sta indagando e l'autorità di regolamentazione eSafety australiana ha affermato di essere "altamente preoccupata" e ha richiesto informazioni a Meta a livello senior.

L’esame aggiunge pressione su un’azienda che sta già pagando fino a 16,7 miliardi di dollari per risolvere cause legali secondo cui i suoi social network hanno danneggiato i bambini e per appellarsi a una decisione del tribunale del New Mexico che le imporrebbe di migliorare i suoi processi di segnalazione di CSAM. La domanda più ampia per l’industria dell’intelligenza artificiale è se la moderazione automatizzata possa tenere il passo con gli abusi che sono a sua volta sempre più assistiti dall’intelligenza artificiale – e la prova che un sistema di rilevamento non è riuscito a individuare centinaia di annunci in violazione settimane dopo essere stati citati poiché la correzione alimenterà direttamente quei dibattiti.

Stai al passo con l'intelligenza artificiale

Segui gli ultimi sviluppi dell'intelligenza artificiale e le ultime notizie sull'intelligenza artificiale mentre i regolatori e le piattaforme lottano contro i danni causati dall'intelligenza artificiale.

Leggi altre notizie sull'AI →