Laut Daten von Childlight, dem Global Child Safety Institute an der University of Edinburgh, sind die Berichte über Material über sexuellen Kindesmissbrauch im Zusammenhang mit generativer KI von etwa 4.700 im Jahr 2023 auf über 400.000 im Jahr 2025 explodiert – ein Anstieg von über 8.400 % in zwei Jahren.

Die Zahlen wurden am Montag, dem 16. November, im Rahmen des 2026 Into the Light Index von Childlight veröffentlicht und von The Guardian gemeldet. Sie stellen Hinweise dar, die Technologieunternehmen beim US-amerikanischen National Center for Missing and Exploited Children (NCMEC) eingereicht haben – eine Zählung dessen, was Plattformen entdeckt und gemeldet haben, keine Zählung aller im Umlauf befindlichen Daten. Der Anstieg ist das bisher deutlichste quantitative Signal dafür, dass generativer KI-Missbrauch, der von der Branche seit langem als ein sich abzeichnendes Risiko beschrieben wird, zu einer der größten Kategorien der Online-Berichterstattung über Kindesausbeutung geworden ist, ein Wandel, der in der laufenden aktuellen KI-Berichterstattung zur Plattformsicherheit und -regulierung dokumentiert wird.

Von 4.700 bis 400.000 Empfehlungen

Der Index erfasst Berichte, die Technologieunternehmen gesetzlich an NCMEC senden müssen, wenn sie in ihren Diensten mutmaßliches Material zum sexuellen Missbrauch von Kindern entdecken. Der Anstieg von etwa 4.700 Empfehlungen im Jahr 2023 auf über 400.000 im Jahr 2025 geht fast genau auf die Einführung von Bildgeneratoren und billigen Feinabstimmungstools bei Verbrauchern im gleichen Zeitraum zurück.

Die Schlagzeile ist nicht die einzige Zahl, die im Umlauf ist. NCMEC hat separat erklärt, dass seine CyberTipline zwischen Januar und September 2025 mehr als eine Million Berichte im Zusammenhang mit generativer KI erhalten hat – eine höhere Gesamtzahl als die 400.000 Childlight-Zitate, was die Unterschiede in der Eingrenzung der beiden Zählungen widerspiegelt. Die beiden Datensätze messen überlappende, aber unterschiedliche Dinge und weisen beide in die gleiche Richtung.

Nackte Apps und Deepfakes echter Kinder

Der Bericht von Childlight hebt auch das Wachstum sogenannter Nudify-Apps hervor, die generative KI nutzen, um das Gesicht eines Kindes auf expliziten Bildern zu platzieren. Die Bilder sind synthetisch, aber der Schaden ist nicht so: Die Bilder zeigen echte Kinder, werden unter Straftätern geteilt und zunehmend zur Erpressung und Belästigung von Minderjährigen verwendet.

Laut der Berichterstattung des Guardian sagte Professor Debi Fry, Datendirektorin bei Childlight, dass die Geschwindigkeit, mit der KI die Bedrohung für Kinder verändert, zutiefst besorgniserregend sei. Es geht nicht mehr um hypothetische Fähigkeiten, sondern um die Produktion im industriellen Maßstab: Was im Jahr 2023 Aufwand und Geschick erforderte, erfordert jetzt nur noch einen App-Store-Download.

Was die Wachhunde finden

Unabhängige Einschätzungen bestätigen das Ausmaß des Problems. Die Internet Watch Foundation, die britische Aufsichtsbehörde, die gemeldetes Material direkt bewertet, hat im ersten Halbjahr 2026 6.310 KI-generierte Bilder gefunden, die der gesetzlichen Definition von sexuellem Kindesmissbrauch entsprachen – 40 % mehr als im gesamten Jahr 2025.

Die Entwicklung bei Videos ist noch deutlicher. Die IWF identifizierte im Jahr 2025 3.440 KI-generierte Videos über sexuellen Missbrauch von Kindern, gegenüber nur 13 im Jahr 2024, und 65 % davon fielen in die Kategorie A, die schwerste Stufe nach britischem Recht. Ein Sprung von 13 auf 3.440 in einem einzigen Jahr zeigt, dass die Tools schneller von Standbildern auf bewegte Videos umgestiegen sind, als sich Erkennungssysteme anpassen konnten.

Die Regulierung holt auf

Das Vereinigte Königreich ist bislang am weitesten fortgeschritten. Nach dem Crime and Policing Act 2026 ist es nun eine Straftat, KI-Tools zu besitzen, zu erstellen oder zu verbreiten, die dazu bestimmt sind, Material über Kindesmissbrauch zu generieren, was laut dem Factsheet der Regierung mit einer Gefängnisstrafe von bis zu fünf Jahren geahndet werden kann. Dieselbe Gesetzgebung stellt die Herstellung oder Bereitstellung von Nacktheitstools unter Strafe – eine Bestimmung, die sich direkt an die dahinter stehenden App-Entwickler richtet.

An anderer Stelle ist das Bild dünner. Der Childlight-Index ergab, dass nur 22 der 103 untersuchten Länder über umfassende Umfragedaten verfügen, die sowohl Offline- als auch technologiegestützten Kindesmissbrauch abdecken, was bedeutet, dass die meisten Regierungen Gesetze erlassen, ohne eine verlässliche Grundlage zu haben. Das Institut fordert strengere Online-Sicherheitsgesetze, eine bessere Datenerfassung, eine stärkere Rechenschaftspflicht des Technologiesektors und frühere Präventionsarbeit.

Das Reporting-Pipeline-Problem

Bei der Interpretation der Zahlen ist eine Einschränkung wichtig: In den Daten werden keine bestimmten Modelle oder Plattformen als Quelle des gemeldeten Materials genannt. Die Tipps kommen von Technologiefirmen, die ihre Dienste scannen und berichten, was sie finden – was bedeutet, dass ein Unternehmen, das nicht scannt, keine Berichte erstellt. Erkennungsbasierte Berichterstattung ist, wie der Guardian in seiner Berichterstattung feststellt, eine schwache Art von Sicherheit, und die nächsten Zahlen werden zeigen, welche Unternehmen tatsächlich danach suchen.

Für die KI-Branche ist die Botschaft des Index eindeutig. Der Missbrauch generativer Werkzeuge ist nicht länger eine Prognose im Risikobereich einer Modellkarte; Es handelt sich um die größte Zeile im Hauptbuch, und die Unternehmen, deren Modelle und Apps den Missbrauch billig gemacht haben, werden bald zur Kasse gebeten – bei Durchsetzungsmaßnahmen, bei den Compliance-Kosten und im Gesetz.

Der KI einen Schritt voraus sein

Verfolgen Sie die Debatte über KI-Sicherheit und -Regulierung, während sie sich entfaltet. Weitere KI-Neuigkeiten lesen →