Le filtrage des publicités par l'IA de Meta n'a pas réussi à arrêter des centaines de publicités sur la maltraitance des enfants, selon les chercheurs

Plus de 250 publicités supplémentaires contenant du matériel pédopornographique ont été diffusées sur les plateformes de Meta dans les semaines qui ont suivi le déploiement de nouveaux outils d'IA conçus pour détecter et bloquer exactement ce type de contenu, selon une étude du Tech Transparency Project à but non lucratif partagée avec WIRED et publiée mardi. Cette découverte va à l'encontre de l'affirmation de l'entreprise selon laquelle son filtrage publicitaire basé sur l'IA avait largement comblé l'écart, et elle intervient alors que les législateurs déclarent qu'ils envisagent d'enquêter.

Les nouveaux chiffres prolongent une divulgation antérieure. Le mois dernier, Meta a supprimé environ 50 publicités publiées sur Facebook, Instagram et Threads qui incluaient directement du matériel d'abus sexuel sur des enfants, à la suite d'un précédent rapport de WIRED. À l’époque, la société avait déclaré que la plupart des publicités abusives avaient été publiées avant le déploiement des nouveaux outils de détection de l’IA. Au lieu du déclin attendu, les chercheurs affirment avoir trouvé des centaines de publicités supplémentaires au cours des dernières semaines, dont certaines identiques à celles que Meta venait de supprimer. Pour une couverture continue de la sécurité de la plateforme et des dernières actualités sur l'IA, suivez AI Buzz Wire.

L'ampleur de l'échec

Au total, les chercheurs du Tech Transparency Project ont documenté plus de 350 publicités vidéo abusives diffusées sur les plateformes de Meta depuis la fin de l'année dernière, couvrant Facebook, Instagram, Messenger, Threads et le réseau publicitaire plus large de Meta. Contrairement à la série initiale de 53 publicités identifiées par le groupe, le nouveau lot comprenait des images d'enfants réels plutôt que des images purement synthétiques. WIRED a confirmé qu'une image source provenait du site officiel d'une famille royale européenne ; les chercheurs affirment qu'une photographie officiellement publiée d'un membre mineur de la famille a été manipulée pour en faire une vidéo illustrant un acte sexuel. Les chercheurs ne nomment pas le royal pour protéger la victime et affirment avoir contacté les autorités du pays concerné.

Katie Paul, directrice du groupe, a déclaré à WIRED que le problème ne se limite pas aux images générées par l'IA. "Ce dont nous parlons ici ne concerne pas simplement le matériel pédopornographique généré par l'IA", a-t-elle déclaré, notant que de nombreuses images semblent avoir été prises sur le Web ouvert avant d'être utilisées dans les publicités. "Il y a beaucoup de mal qui peuvent en résulter alors que Meta engrange de l'argent dans le processus." Les chercheurs ont identifié les identités réelles de quatre mineurs dont les images ont été utilisées dans les publicités.

Un entonnoir vers les applications de nudification

Les publicités suivent un modèle cohérent, selon les rapports. Beaucoup s'ouvrent sur une photo anodine d'une préadolescente ou d'une adolescente - les chercheurs n'en ont trouvé qu'une représentant un garçon - recouverte d'un texte déclarant que l'image n'est "pas seulement une photo" et qu'il n'y a "aucune restriction" sur ce qui peut être fait avec. Lors de la lecture de la courte vidéo, le visage de l'enfant se transforme en une vidéo explicite. En cliquant dessus, vous accédez à des applications d'échange de visage et de « nudification » disponibles dans les magasins d'applications d'Apple et de Google, dont beaucoup sont liées à des développeurs chinois. WIRED a identifié séparément des centaines d'annonces de nudification similaires représentant des adultes sur les plateformes de Meta.

Examens lents et divulgations manquantes

Les politiques de Meta stipulent que la société examine toutes les publicités diffusées sur ses plateformes et que ces publicités enfreignent ses règles en matière d'exploitation des enfants, d'exploitation des adultes et de nudité. En pratique, ont rapporté les chercheurs, il fallait parfois jusqu'à une semaine à Meta pour examiner les publicités en direct qui avaient été signalées via les propres outils de l'entreprise – au cours desquelles les publicités accumulaient des centaines de vues supplémentaires, selon les captures d'écran examinées par WIRED. Lorsque certaines publicités ont été supprimées, leurs enregistrements de retrait ne contenaient initialement aucune indication indiquant qu'elles violaient les politiques de l'entreprise en matière d'abus sexuels sur enfants ; ces détails ne sont apparus qu'après que WIRED ait interrogé Meta sur l'écart.

Les chercheurs ont signalé chaque annonce trouvée au CyberTipline du Centre national pour les enfants disparus et exploités et via les outils de reporting de Meta. La propre bibliothèque publicitaire de Meta montre que les publicités ont été collectivement diffusées sur plus de 29 000 comptes dans les pays de l'Union européenne et environ 7 000 comptes au Royaume-Uni, dont plus de 250 aux États-Unis, 120 en Australie et 80 en Inde – des chiffres qui sous-estiment probablement la portée totale, car certains pays manquent de données granulaires sur les performances des publicités.

Méta-réponses

Meta a repoussé l'importance des résultats. "Nous ne tolérons pas les applications de nudification ni tout type d'exploitation d'enfants, qu'elle soit réelle ou générée par l'IA", a déclaré à WIRED la porte-parole de l'entreprise, Tracy Clayton, ajoutant que l'entreprise avait déjà supprimé des centaines de milliers de publicités pour violation de ses politiques de nudification. Meta a déclaré que de nombreuses publicités trouvées par les chercheurs avaient déjà été supprimées, que la plupart avaient reçu moins de 200 impressions et qu'elles avaient collecté moins de 5 000 $ en paiements publicitaires. La société a également déclaré que les vidéos générées par l'IA mettaient en scène des adultes tandis que les clips impliquant des mineurs étaient brefs ou flous, ce qui rendait la détection plus difficile, et qu'elle signalait les contenus liés à l'exploitation des enfants au NCMEC.

Les législateurs et les régulateurs bougent

Plusieurs législateurs et régulateurs déclarent désormais qu'ils enquêtent ou examinent les publicités suite aux reportages de WIRED. Le sénateur de Virginie, Mark Warner, qui a envoyé une lettre au PDG de Meta, Mark Zuckerberg, après le reportage précédent, a déclaré qu'il était "décevant que Meta continue de diffuser des publicités présentant du matériel d'abus sexuels sur des enfants et des images intimes non consensuelles après que cela ait été porté à leur attention". Le procureur général du Michigan a déclaré que son bureau « étudiait activement la question », le procureur général de Floride a indiqué que son bureau enquêtait, et le régulateur australien de la sécurité électronique s'est déclaré « très préoccupé » et a demandé des informations à Meta à un niveau supérieur.

Cet examen ajoute de la pression sur une entreprise qui paie déjà jusqu'à 16,7 milliards de dollars pour régler des poursuites alléguant que ses réseaux sociaux ont porté atteinte à des enfants et qui fait appel d'une décision d'un tribunal du Nouveau-Mexique qui l'obligerait à améliorer ses processus de signalement CSAM. La question plus large pour l’industrie de l’IA est de savoir si la modération automatisée peut suivre le rythme des abus qui sont eux-mêmes de plus en plus assistés par l’IA – et la preuve qu’un système de détection n’a pas réussi à détecter des centaines de publicités en infraction des semaines après avoir été citées comme correctif alimentera directement ces débats.

Gardez une longueur d'avance sur l'IA

Suivez les derniers développements de l’IA et les dernières nouvelles en matière d’intelligence artificielle alors que les régulateurs et les plateformes luttent contre les méfaits liés à l’IA.

Lire plus d'actualités sur l'IA →