Le segnalazioni di materiale pedopornografico legato all’intelligenza artificiale generativa sono esplose da circa 4.700 nel 2023 a oltre 400.000 nel 2025: un aumento di oltre l’8.400% in due anni, secondo i dati di Childlight, il Global Child Safety Institute con sede presso l’Università di Edimburgo.
I dati sono stati pubblicati lunedì 16 novembre come parte del 2026 Into the Light Index di Childlight e riportati da The Guardian. Rappresentano segnalazioni che le aziende tecnologiche hanno presentato al Centro nazionale statunitense per i bambini scomparsi e sfruttati (NCMEC): un conteggio di ciò che le piattaforme hanno rilevato e segnalato, non un censimento di tutto ciò che è in circolazione. L’impennata è il segnale quantitativo più chiaro finora che l’abuso di IA generativa, a lungo descritto dal settore come un rischio all’orizzonte, è diventato una delle più grandi categorie di segnalazioni di sfruttamento minorile online, un cambiamento documentato nella [copertura delle ultime notizie sull’IA] (https://aibuzzwire.news) in corso sulla sicurezza e la regolamentazione della piattaforma.
##Da 4.700 a 400.000 Referral
L'indice tiene traccia dei rapporti che le società tecnologiche sono obbligate per legge a inviare all'NCMEC quando rilevano materiale sospetto di abuso sessuale su minori nei loro servizi. Il salto da circa 4.700 referral nel 2023 a più di 400.000 nel 2025 si collega quasi esattamente al lancio da parte dei consumatori di generatori di immagini e strumenti economici di messa a punto nello stesso periodo.
La cifra principale non è l'unico numero in circolazione. NCMEC ha affermato separatamente che la sua CyberTipline ha ricevuto più di un milione di rapporti relativi all'intelligenza artificiale generativa tra gennaio e settembre 2025, un totale maggiore delle 400.000 citazioni di Childlight, riflettendo le differenze nel modo in cui vengono gestiti i due conteggi. I due set di dati misurano cose sovrapposte ma distinte ed entrambi puntano nella stessa direzione.
Nudifica app e deepfake di bambini veri
Il rapporto di Childlight evidenzia anche la crescita delle cosiddette app di nudizzazione, che utilizzano l'intelligenza artificiale generativa per posizionare il volto di un bambino su immagini esplicite. Le immagini sono sintetiche, ma il danno non lo è: le immagini raffigurano bambini veri, sono condivise tra i delinquenti e sono sempre più utilizzate per ricattare e molestare i minori.
La professoressa Debi Fry, direttrice dei dati di Childlight, ha affermato che la velocità con cui l'intelligenza artificiale sta cambiando la minaccia per i bambini è profondamente preoccupante, secondo il rapporto del Guardian. La preoccupazione non è più la capacità ipotetica ma la produzione su scala industriale: ciò che richiedeva impegno e competenza nel 2023 ora richiede solo il download di un’app store.
Cosa stanno scoprendo i cani da guardia
Valutazioni indipendenti confermano la portata del problema. L’Internet Watch Foundation, l’organismo di vigilanza del Regno Unito che valuta direttamente il materiale segnalato, ha rilevato 6.310 immagini generate dall’intelligenza artificiale che soddisfacevano la definizione legale di abuso sessuale su minori nella prima metà del 2026, il 40% in più rispetto a tutto il 2025.
La traiettoria per i video è ancora più cruda. L’IWF ha identificato 3.440 video di abusi sessuali su minori generati dall’intelligenza artificiale nel 2025, rispetto ai soli 13 del 2024, e il 65% di essi rientrava nella categoria A, il grado più grave ai sensi della legge britannica. Un salto da 13 a 3.440 in un solo anno mostra che gli strumenti sono passati dalle immagini fisse ai video in movimento più velocemente di quanto i sistemi di rilevamento potrebbero adattarsi.
La regolamentazione sta correndo per recuperare il ritardo
Il Regno Unito è quello che si è mosso più lontano finora. Secondo il Crime and Policing Act 2026, è ora un reato possedere, creare o distribuire strumenti di intelligenza artificiale progettati per generare materiale pedopornografico, punibile fino a cinque anni di carcere, secondo la scheda informativa del governo. La stessa legislazione criminalizza la creazione o la fornitura di strumenti di nudità, una disposizione rivolta direttamente agli sviluppatori di app dietro di essi.
Altrove il quadro è più scarno. L’indice di Childlight ha rilevato che solo 22 dei 103 paesi esaminati dispongono di dati di indagine completi che coprono sia gli abusi sui minori offline che quelli facilitati dalla tecnologia, il che significa che la maggior parte dei governi sta legiferando senza una base di riferimento affidabile. L’istituto chiede leggi sulla sicurezza online più severe, una migliore raccolta dei dati, una maggiore responsabilità da parte del settore tecnologico e un lavoro di prevenzione tempestivo.
Il problema della pipeline di reporting
Una limitazione è importante quando si interpretano i numeri: i dati non menzionano modelli o piattaforme specifici come fonte del materiale segnalato. I suggerimenti provengono da aziende tecnologiche che scansionano i loro servizi e segnalano ciò che trovano, il che significa che un’azienda che non esegue la scansione non genera report. Il reporting basato sul rilevamento è, come osserva il report del Guardian, un tipo di sicurezza sottile, e la prossima serie di dati mostrerà quali aziende stanno effettivamente esaminando.
Per il settore dell’intelligenza artificiale, il messaggio dell’indice è inequivocabile. L'abuso degli strumenti generativi non è più una proiezione nella sezione rischio di una scheda modello; è la riga più grande nel registro e le aziende i cui modelli e app hanno reso l’abuso a buon mercato stanno per essere chiamati a pagare per questo – in azioni di contrasto, in costi di conformità e in legge.
Stai al passo con l'intelligenza artificiale
Segui il dibattito sulla sicurezza e la regolamentazione dell’IA nel suo svolgersi. Leggi altre notizie sull'AI →
