Forscher stellen fest, dass die KI-Anzeigenprüfung von Meta Hunderte von Anzeigen über Kindesmissbrauch nicht stoppen konnte

Laut einer Studie des gemeinnützigen Tech Transparency Project, die WIRED mitgeteilt und am Dienstag veröffentlicht wurde, wurden in den Wochen nach der Einführung neuer KI-Tools, die genau diese Art von Inhalten erkennen und blockieren sollen, mehr als 250 zusätzliche Werbeanzeigen mit Material zum sexuellen Missbrauch von Kindern auf den Plattformen von Meta geschaltet. Das Ergebnis untergräbt die Behauptung des Unternehmens, dass sein KI-gestütztes Werbescreening die Lücke weitgehend geschlossen habe, und kommt zu einem Zeitpunkt, zu dem der Gesetzgeber erklärt, dass er eine Untersuchung plant.

Die neuen Zahlen erweitern eine frühere Offenlegung. Letzten Monat löschte Meta etwa 50 auf Facebook, Instagram und Threads gepostete Anzeigen, die direkt Material über sexuellen Missbrauch von Kindern enthielten, nachdem WIRED bereits zuvor berichtet hatte. Damals gab das Unternehmen an, dass die meisten missbräuchlichen Anzeigen veröffentlicht worden seien, bevor es die neuen KI-Erkennungstools einsetzte. Statt des erwarteten Rückgangs hätten die Forscher in den letzten Wochen Hunderte weitere Anzeigen gefunden – darunter einige, die mit denen identisch seien, die Meta gerade entfernt hatte. Für eine kontinuierliche Berichterstattung über Plattformsicherheit und die neuesten KI-Nachrichten folgen Sie AI Buzz Wire.

Das Ausmaß des Scheiterns

Insgesamt haben Forscher des Tech Transparency Project mehr als 350 der missbräuchlichen Videoanzeigen dokumentiert, die seit Ende letzten Jahres auf den Plattformen von Meta geschaltet wurden und sich über Facebook, Instagram, Messenger, Threads und das breitere Werbenetzwerk von Meta erstreckten. Im Gegensatz zu den ersten 53 Anzeigen, die die Gruppe identifiziert hatte, enthielt die neuere Gruppe Bilder von echten Kindern und nicht rein synthetische. WIRED bestätigte, dass ein Quellbild von der offiziellen Website einer europäischen Königsfamilie stammte; Forscher sagen, dass ein offiziell veröffentlichtes Foto eines minderjährigen Familienmitglieds zu einem Video manipuliert wurde, das einen Sexakt zeigt. Die Forscher nennen den Namen des Königs nicht, um das Opfer zu schützen, und sagen, sie hätten die Beamten des betreffenden Landes kontaktiert.

Katie Paul, die Leiterin der Gruppe, sagte gegenüber WIRED, dass das Problem nicht auf KI-generierte Bilder beschränkt sei. „Wir sprechen hier nicht einfach von KI-generiertem Material über Kindesmissbrauch“, sagte sie und wies darauf hin, dass viele Bilder offenbar aus dem offenen Internet stammen, bevor sie in den Anzeigen verwendet wurden. „Das alles kann großen Schaden anrichten, während Meta dabei Geld einstreicht.“ Die Forscher identifizierten die realen Identitäten von vier Minderjährigen, deren Bilder in den Anzeigen verwendet wurden.

Ein Trichter zu Nacktheits-Apps

Den Berichten zufolge folgen die Anzeigen einem einheitlichen Muster. Viele öffnen ein harmloses Bild eines jugendlichen oder jugendlichen Mädchens – die Forscher fanden nur eines, auf dem ein Junge zu sehen ist –, überlagert mit Text, der erklärt, dass das Bild „nicht nur ein Foto“ sei und dass es „keine Einschränkungen“ gebe, was damit gemacht werden könne. Wenn das kurze Video abgespielt wird, verwandelt sich das Gesicht des Kindes in ein explizites Video. Das Durchklicken führt zu KI-Apps zum Face-Swapping und zur „Nacktifizierung“, die in den App Stores von Apple und Google verfügbar sind und von denen viele mit chinesischen Entwicklern verknüpft sind. WIRED identifizierte separat Hunderte verwandter Nacktheitsanzeigen, die Erwachsene auf den Plattformen von Meta darstellen.

Langsame Bewertungen und fehlende Offenlegungen

In den Richtlinien von Meta heißt es, dass das Unternehmen alle Anzeigen überprüft, die auf seinen Plattformen geschaltet werden, und dass die Anzeigen gegen seine Regeln zur Ausbeutung von Kindern, Erwachsenen und Nacktheit verstoßen. In der Praxis, so berichteten die Forscher, dauerte es bei Meta manchmal bis zu einer Woche, um Live-Anzeigen zu überprüfen, die über die unternehmenseigenen Tools gemeldet worden waren. Dabei sammelten die Anzeigen laut von WIRED überprüften Screenshots Hunderte zusätzliche Aufrufe. Als einige der Anzeigen entfernt wurden, enthielten die Deaktivierungsunterlagen zunächst keinen Hinweis darauf, dass sie gegen die Richtlinien des Unternehmens zum sexuellen Missbrauch von Kindern verstießen. Diese Details erschienen erst, nachdem WIRED Meta nach der Diskrepanz gefragt hatte.

Die Forscher meldeten jede gefundene Anzeige an die CyberTipline des National Center for Missing and Exploited Children's CyberTipline und über die Meldetools von Meta. Metas eigene Anzeigenbibliothek zeigt, dass die Anzeigen insgesamt auf mehr als 29.000 Konten in Ländern der Europäischen Union und rund 7.000 Konten im Vereinigten Königreich geschaltet wurden, wobei mehr als 250 in den Vereinigten Staaten, 120 in Australien und 80 in Indien geschaltet wurden – Zahlen, die die Gesamtreichweite wahrscheinlich unterschätzen, da es in einigen Ländern an detaillierten Daten zur Anzeigenleistung mangelt.

Meta antwortet

Meta lehnte die Bedeutung der Ergebnisse ab. „Wir dulden keine Nacktheits-Apps oder irgendeine Art von Kindesausbeutung, egal ob real oder KI-generiert“, sagte Unternehmenssprecherin Tracy Clayton gegenüber WIRED und fügte hinzu, dass das Unternehmen zuvor Hunderttausende Anzeigen wegen Verstoßes gegen seine Richtlinien zur Nacktheitsdarstellung entfernt habe. Meta sagte, viele der von den Forschern gefundenen Anzeigen seien bereits entfernt worden, die meisten hätten weniger als 200 Impressionen erhalten und weniger als 5.000 US-Dollar an Werbezahlungen eingenommen. Das Unternehmen sagte außerdem, dass in den KI-generierten Videos Erwachsene zu sehen seien, während die Clips mit Minderjährigen kurz oder unscharf seien, was die Erkennung erschwere, und dass es Inhalte zur Ausbeutung von Kindern an NCMEC melde.

Gesetzgeber und Regulierungsbehörden bewegen sich

Mehrere Gesetzgeber und Aufsichtsbehörden geben nun an, dass sie die Anzeigen im Anschluss an die Berichterstattung von WIRED untersuchen oder prüfen. Der Senator von Virginia, Mark Warner, der Meta-CEO Mark Zuckerberg nach der früheren Berichterstattung einen Brief schickte, sagte, es sei „enttäuschend, dass Meta weiterhin Anzeigen mit Material über sexuellen Kindesmissbrauch und nicht einvernehmlichen intimen Bildern schaltet, nachdem Meta darauf aufmerksam gemacht wurde.“ Der Generalstaatsanwalt von Michigan sagte, das Büro untersuche die Angelegenheit „aktiv“, der Generalstaatsanwalt von Florida gab bekannt, dass sein Büro Ermittlungen durchführe, und die australische eSafety-Regulierungsbehörde sagte, sie sei „äußerst besorgt“ und habe Informationen von Meta auf höchster Ebene angefordert.

Die Prüfung erhöht den Druck auf ein Unternehmen, das bereits bis zu 16,7 Milliarden US-Dollar zahlt, um Klagen beizulegen, in denen behauptet wird, dass seine sozialen Netzwerke Kindern Schaden zugefügt haben, und das gegen eine Gerichtsentscheidung in New Mexico Berufung einlegt, die eine Verbesserung seiner CSAM-Meldeprozesse erfordern würde. Die umfassendere Frage für die KI-Branche ist, ob die automatisierte Moderation mit Missbrauch Schritt halten kann, der selbst zunehmend KI-unterstützt ist – und Beweise dafür, dass ein Erkennungssystem Hunderte von verletzenden Anzeigen Wochen nach der Nennung nicht erkennen konnte, da die Lösung direkt in diese Debatten einfließen wird.

Der KI einen Schritt voraus sein

Verfolgen Sie die neuesten KI-Entwicklungen und aktuelle Nachrichten zu künstlicher Intelligenz, während Regulierungsbehörden und Plattformen mit KI-gestützten Schäden zu kämpfen haben.

Weitere KI-Neuigkeiten lesen →