Meta's AI-advertentiescreening kon honderden advertenties voor kindermisbruik niet tegenhouden, vinden onderzoekers

Meer dan 250 extra advertenties met materiaal over seksueel misbruik van kinderen verschenen op de platforms van Meta in de weken nadat het bedrijf nieuwe AI-tools had uitgerold die waren ontworpen om precies dat soort inhoud te detecteren en te blokkeren, blijkt uit onderzoek van het non-profit Tech Transparency Project, gedeeld met WIRED en dinsdag gepubliceerd. De bevinding ondermijnt de bewering van het bedrijf dat zijn door AI aangedreven advertentiescreening de kloof grotendeels heeft gedicht, en komt op het moment dat wetgevers zeggen dat ze van plan zijn dit te onderzoeken.

De nieuwe cijfers breiden een eerdere bekendmaking uit. Vorige maand verwijderde Meta ongeveer 50 advertenties die op Facebook, Instagram en Threads waren geplaatst en die rechtstreeks materiaal over seksueel kindermisbruik bevatten, na eerdere berichtgeving door WIRED. Destijds zei het bedrijf dat de meeste beledigende advertenties waren gepubliceerd voordat het de nieuwe AI-detectietools had geïmplementeerd. In plaats van de verwachte daling zeggen onderzoekers dat ze de afgelopen weken nog honderden advertenties hebben gevonden, waaronder enkele die identiek zijn aan de advertenties die Meta zojuist heeft verwijderd. Voor voortdurende berichtgeving over platformveiligheid en het laatste AI-nieuws, volgt u AI Buzz Wire.

De omvang van de mislukking

In totaal hebben onderzoekers van het Tech Transparency Project sinds eind vorig jaar meer dan 350 van de beledigende videoadvertenties gedocumenteerd die op de platforms van Meta draaien, verspreid over Facebook, Instagram, Messenger, Threads en Meta's bredere advertentienetwerk. In tegenstelling tot de eerste reeks van 53 advertenties die de groep identificeerde, bevatte de nieuwere reeks afbeeldingen van echte kinderen in plaats van puur synthetische. WIRED bevestigde dat één bronafbeelding afkomstig was van de officiële website van een Europese koninklijke familie; Onderzoekers zeggen dat een officieel vrijgegeven foto van een minderjarig lid van de familie werd gemanipuleerd tot een video waarop een seksuele handeling te zien is. De onderzoekers noemen de koninklijke familie niet om het slachtoffer te beschermen en zeggen contact te hebben opgenomen met functionarissen in het betreffende land.

Katie Paul, de directeur van de groep, vertelde WIRED dat het probleem niet beperkt blijft tot door AI gegenereerde beelden. "Waar we het hier over hebben is niet simpelweg door AI gegenereerd materiaal over seksueel misbruik van kinderen", zei ze, waarbij ze opmerkte dat veel afbeeldingen van het open internet lijken te zijn gehaald voordat ze in de advertenties werden gebruikt. "Er kan veel schade uit dit alles voortkomen, terwijl Meta daarbij geld binnenhaalt." De onderzoekers identificeerden de echte identiteit van vier minderjarigen van wie de afbeeldingen in de advertenties werden gebruikt.

Een trechter naar nudificatie-apps

Volgens de rapportage volgen de advertenties een consistent patroon. Velen openen een onschadelijke foto van een preteen- of tienermeisje – de onderzoekers vonden er maar één met een jongen erop – met daarop de tekst waarin wordt verklaard dat de afbeelding ‘niet zomaar een foto’ is en dat er ‘geen beperkingen’ zijn aan wat ermee kan worden gedaan. Wanneer de korte video wordt afgespeeld, verandert het gezicht van het kind in een expliciete video. Doorklikken leidt naar AI-face-swapping- en 'nudificatie'-apps die beschikbaar zijn in de app-stores van Apple en Google, waarvan er vele zijn gekoppeld aan Chinese ontwikkelaars. WIRED identificeerde afzonderlijk honderden gerelateerde nudificatie-advertenties waarin volwassenen op de platforms van Meta worden afgebeeld.

Trage recensies en ontbrekende openbaarmakingen

In het beleid van Meta staat dat het bedrijf alle advertenties beoordeelt die op zijn platforms worden weergegeven, en dat de advertenties in strijd zijn met de regels inzake uitbuiting van kinderen, uitbuiting van volwassenen en naaktheid. In de praktijk, zo meldden de onderzoekers, kostte het Meta soms wel een week om live advertenties te beoordelen die waren gerapporteerd via de eigen tools van het bedrijf – waarbij de advertenties honderden extra weergaven verzamelden, volgens screenshots beoordeeld door WIRED. Toen sommige advertenties werden verwijderd, ontbraken in hun verwijderingsgegevens aanvankelijk enige informatie dat ze het beleid inzake seksueel misbruik van kinderen van het bedrijf hadden geschonden; die details verschenen pas nadat WIRED Meta naar de discrepantie had gevraagd.

De onderzoekers rapporteerden elke advertentie die ze vonden aan de CyberTipline van het National Center for Missing and Exploited Children en via de rapportagetools van Meta. Meta's eigen advertentiebibliotheek laat zien dat de advertenties gezamenlijk werden weergegeven op meer dan 29.000 accounts in landen van de Europese Unie en ongeveer 7.000 accounts in het Verenigd Koninkrijk, waarvan er meer dan 250 in de Verenigde Staten, 120 in Australië en 80 in India verschenen. Cijfers die het totale bereik waarschijnlijk onderschatten, omdat in sommige landen gedetailleerde gegevens over advertentieprestaties ontbreken.

Meta reageert

Meta kwam terug op de betekenis van de bevindingen. "We tolereren geen nudificatie-apps of enige vorm van kinderuitbuiting, zowel echt als door AI gegenereerd", vertelde bedrijfswoordvoerder Tracy Clayton aan WIRED, eraan toevoegend dat het bedrijf eerder honderdduizenden advertenties heeft verwijderd wegens schending van zijn nudificatiebeleid. Meta zei dat veel van de advertenties die de onderzoekers vonden al waren verwijderd, dat de meeste minder dan 200 vertoningen hadden ontvangen en dat er minder dan $ 5.000 aan advertentiebetalingen was binnengehaald. Het bedrijf zei ook dat de door AI gegenereerde video's volwassenen bevatten, terwijl de clips met minderjarigen kort of wazig waren, waardoor detectie moeilijker werd, en dat het inhoud van kinderuitbuiting rapporteert aan NCMEC.

Wetgevers en regelgevers komen in beweging

Meerdere wetgevers en toezichthouders zeggen nu dat ze de advertenties onderzoeken of onderzoeken na de rapportage van WIRED. Senator Mark Warner uit Virginia, die Mark Zuckerberg, CEO van Meta, een brief stuurde na de eerdere berichtgeving, zei dat het "teleurstellend is dat Meta doorgaat met het plaatsen van advertenties met materiaal over seksueel kindermisbruik en niet-consensuele intieme beelden nadat dit onder hun aandacht was gebracht." De procureur-generaal van Michigan zei dat het kantoor de zaak “actief onderzoekt”, de procureur-generaal van Florida meldde dat zijn kantoor onderzoek doet, en de Australische eSafety-regelgever zei dat hij “zeer bezorgd” was en op hoog niveau informatie bij Meta heeft opgevraagd.

Het onderzoek zet een bedrijf onder druk dat al 16,7 miljard dollar heeft betaald om rechtszaken te schikken waarin wordt beweerd dat zijn sociale netwerken kinderen schade hebben berokkend, en om in beroep te gaan tegen een uitspraak van een rechtbank in New Mexico die het bedrijf zou verplichten zijn CSAM-rapportageprocessen te verbeteren. De bredere vraag voor de AI-industrie is of geautomatiseerde moderatie gelijke tred kan houden met misbruik dat zelf in toenemende mate door AI wordt ondersteund – en het bewijs dat een detectiesysteem er weken nadat het werd aangehaald niet in slaagde honderden inbreukmakende advertenties op te sporen, omdat de oplossing rechtstreeks in die debatten zal bijdragen.

Blijf AI een stap voor

Volg de laatste AI-ontwikkelingen en het laatste nieuws over kunstmatige intelligentie terwijl toezichthouders en platforms worstelen met door AI aangedreven schade.

Lees meer AI-nieuws →