Les signalements de matériels d'abus sexuels sur des enfants liés à l'IA générative ont explosé, passant d'environ 4 700 en 2023 à plus de 400 000 en 2025, soit une augmentation de plus de 8 400 % en deux ans, selon les données de Childlight, le Global Child Safety Institute basé à l'Université d'Édimbourg.

Les chiffres ont été publiés le lundi 16 novembre dans le cadre de l'indice Into the Light 2026 de Childlight et rapportés par The Guardian. Il s’agit de références que les entreprises technologiques ont déposées auprès du Centre national américain pour les enfants disparus et exploités (NCMEC) – un décompte de ce que les plateformes ont détecté et signalé, et non un recensement de tout ce qui est en circulation. Cette augmentation est le signal quantitatif le plus clair à ce jour indiquant que l'abus de l'IA générative, longtemps décrit par l'industrie comme un risque à l'horizon, est devenu l'une des plus grandes catégories de rapports sur l'exploitation des enfants en ligne, un changement documenté par les dernières nouvelles sur l'IA(https://aibuzzwire.news) en matière de sécurité et de réglementation des plateformes.

De 4 700 à 400 000 filleuls

L'index suit les rapports que les entreprises technologiques sont légalement tenues d'envoyer au NCMEC lorsqu'elles détectent du matériel suspecté d'abus sexuel sur des enfants sur leurs services. Le passage d’environ 4 700 références en 2023 à plus de 400 000 en 2025 correspond presque exactement au déploiement par les consommateurs de générateurs d’images et d’outils de réglage fin bon marché au cours de la même période.

Le chiffre phare n’est pas le seul numéro en circulation. Le NCMEC a déclaré séparément que son CyberTipline avait reçu plus d'un million de rapports liés à l'IA générative entre janvier et septembre 2025 – un total plus élevé que les 400 000 cités par Childlight, reflétant les différences dans la manière dont les deux décomptes sont portés. Les deux ensembles de données mesurent des éléments qui se chevauchent mais qui sont distincts, et tous deux vont dans la même direction.

Nudify Apps et Deepfakes de vrais enfants

Le rapport de Childlight souligne également la croissance des applications dites nudify, qui utilisent l'IA générative pour placer le visage d'un enfant sur des images explicites. Les images sont synthétiques, mais le mal ne l'est pas : les images représentent de vrais enfants, sont partagées entre délinquants et sont de plus en plus utilisées pour le chantage et le harcèlement des mineurs.

Le professeur Debi Fry, directrice des données chez Childlight, a déclaré que la vitesse à laquelle l'IA modifie la menace qui pèse sur les enfants est profondément préoccupante, selon le rapport du Guardian. La préoccupation n’est plus une capacité hypothétique mais une production à l’échelle industrielle : ce qui a demandé des efforts et des compétences en 2023 ne nécessite désormais qu’un téléchargement sur l’App Store.

Ce que découvrent les organismes de surveillance

Des évaluations indépendantes corroborent l’ampleur du problème. L’Internet Watch Foundation, l’organisme de surveillance britannique qui évalue directement les documents signalés, a trouvé 6 310 images générées par l’IA qui répondaient à la définition légale d’abus sexuel sur des enfants au cours du premier semestre 2026, soit 40 % de plus que pour l’ensemble de 2025.

La trajectoire de la vidéo est encore plus sombre. L'IWF a identifié 3 440 vidéos d'abus sexuels sur enfants générées par AI en 2025, contre seulement 13 en 2024, et 65 % d'entre elles appartenaient à la catégorie A, le niveau le plus sévère selon la loi britannique. Un bond de 13 à 3 440 en une seule année montre que les outils sont passés des images fixes aux vidéos en mouvement plus rapidement que les systèmes de détection ne pouvaient s'adapter.

La réglementation, c'est la course au rattrapage

Jusqu’à présent, c’est le Royaume-Uni qui est le plus avancé. En vertu de la loi sur la criminalité et la police de 2026, la possession, la création ou la distribution d'outils d'IA conçus pour générer du matériel pédopornographique constituent désormais une infraction pénale, passible d'une peine pouvant aller jusqu'à cinq ans de prison, selon la propre fiche d'information du gouvernement. La même législation criminalise la fabrication ou la fourniture d’outils de nudification – une disposition visant directement les développeurs d’applications qui les sous-tendent.

Ailleurs, la situation est plus mince. L'indice de Childlight a révélé que seuls 22 des 103 pays examinés disposent de données d'enquête complètes couvrant à la fois la maltraitance des enfants hors ligne et facilitée par la technologie, ce qui signifie que la plupart des gouvernements légifèrent sans base de référence fiable. L'institut appelle à des lois plus strictes sur la sécurité en ligne, à une meilleure collecte de données, à une plus grande responsabilité du secteur technologique et à un travail de prévention plus rapide.

Le problème du pipeline de rapports

Une limite est importante lors de l’interprétation des chiffres : les données ne nomment pas de modèles ou de plates-formes spécifiques comme source du matériel rapporté. Les conseils proviennent d'entreprises technologiques qui analysent leurs services et rapportent ce qu'elles trouvent, ce qui signifie qu'une entreprise qui n'analyse pas ne génère pas de rapports. Les rapports basés sur la détection sont, comme le note le rapport du Guardian, une sorte de sécurité mince, et la prochaine série de chiffres montrera quelles entreprises recherchent réellement.

Pour l’industrie de l’IA, le message de l’indice est sans ambiguïté. L'abus d'outils génératifs n'est plus une projection dans la section des risques d'une carte modèle ; il s’agit de la ligne la plus importante du grand livre, et les entreprises dont les modèles et les applications ont rendu les abus peu coûteux sont sur le point de se voir demander d’en payer le prix – en mesures coercitives, en coûts de conformité et en droit.

Gardez une longueur d'avance sur l'IA

Suivez le débat sur la sécurité et la réglementation de l’IA au fur et à mesure qu’il se déroule. Lire plus d'actualités sur l'IA →