Rapporter om material för sexuella övergrepp mot barn kopplat till generativ AI har exploderat från ungefär 4 700 år 2023 till mer än 400 000 år 2025 – en ökning med över 8 400 % på två år, enligt data från Childlight, Global Child Safety Institute baserat vid University of Edinburgh.

Siffrorna publicerades måndagen den 16 november som en del av Childlights 2026 Into the Light Index och rapporterades av The Guardian. De representerar remisser som teknikföretag lämnade in till US National Center for Missing and Exploited Children (NCMEC) – en räkning av vilka plattformar som upptäckts och rapporterats, inte en folkräkning av allt som är i omlopp. Ökningen är den tydligaste kvantitativa signalen hittills om att generativt AI-missbruk, som länge beskrivits av industrin som en risk vid horisonten, har blivit en av de största kategorierna av rapportering om utnyttjande av barn online, ett skifte som dokumenterats i pågående brytande AI-nyhetsbevakning av plattformssäkerhet och reglering.

Från 4 700 till 400 000 hänvisningar

Indexet spårar rapporter som teknikföretag är lagligt skyldiga att skicka till NCMEC när de upptäcker misstänkt material för sexuella övergrepp mot barn på sina tjänster. Hoppet från cirka 4 700 hänvisningar 2023 till mer än 400 000 2025 kartläggs nästan exakt till konsumentutrullningen av bildgeneratorer och billiga finjusteringsverktyg under samma period.

Rubriken är inte det enda nummer som är i omlopp. NCMEC har sagt separat att dess CyberTipline fick mer än en miljon generativa AI-relaterade rapporter mellan januari och september 2025 - en större summa än de 400 000 Childlight citerar, vilket återspeglar skillnader i hur de två räkningarna är omfångade. De två datamängderna mäter överlappande men distinkta saker, och båda pekar i samma riktning.

Nudify-appar och Deepfakes av riktiga barn

Childlights rapport belyser också tillväxten av så kallade nudify-appar, som använder generativ AI för att placera ett barns ansikte på explicita bilder. Bilderna är syntetiska, men skadan är det inte: bilderna föreställer riktiga barn, delas mellan förövare och används allt mer för utpressning och trakasserier av minderåriga.

Professor Debi Fry, Childlights datachef, sa att hastigheten med vilken AI förändrar hotet mot barn är djupt oroande, enligt Guardians rapportering. Oron är inte längre hypotetisk förmåga utan produktion i industriell skala: det som krävde ansträngning och skicklighet 2023 kräver nu bara en nedladdning av appbutiken.

Vad vakthundarna hittar

Oberoende bedömningar bekräftar problemets omfattning. Internet Watch Foundation, den brittiska vakthunden som direkt bedömer rapporterat material, hittade 6 310 AI-genererade bilder som uppfyllde den juridiska definitionen av sexuella övergrepp mot barn under första halvåret 2026 – 40 % fler än under hela 2025.

Banan för video är ännu skarpare. IWF identifierade 3 440 AI-genererade videor om sexuella övergrepp mot barn 2025, upp från bara 13 2024, och 65 % av dem var i kategori A, den allvarligaste graden enligt brittisk lag. Ett hopp från 13 till 3 440 på ett enda år visar att verktygen har flyttats från stillbilder till rörlig video snabbare än vad detektionssystem kunde anpassa.

Reglering tävlar för att komma ikapp

Storbritannien har gått längst hittills. Enligt Crime and Policing Act 2026 är det nu straffbart att inneha, skapa eller distribuera AI-verktyg utformade för att generera barnmisshandelsmaterial, straffbart med upp till fem års fängelse, enligt regeringens eget faktablad. Samma lagstiftning kriminaliserar tillverkning eller tillhandahållande av nudifieringsverktyg – en bestämmelse som riktar sig direkt till apputvecklarna bakom dem.

På andra håll är bilden tunnare. Childlights index fann att endast 22 av de 103 länder som undersöktes har omfattande undersökningsdata som täcker både offline och teknologiskt underlättat övergrepp mot barn, vilket innebär att de flesta regeringar lagstiftar utan en tillförlitlig baslinje. Institutet efterlyser hårdare onlinesäkerhetslagar, bättre datainsamling, större ansvarighet från tekniksektorn och tidigare förebyggande arbete.

Rapporteringspipelineproblemet

En begränsning spelar roll vid tolkningen av siffrorna: data nämner inte specifika modeller eller plattformar som källan till det rapporterade materialet. Tipsen kommer från teknikföretag som skannar sina tjänster och rapporterar vad de hittar – vilket innebär att ett företag som inte skannar inte genererar rapporter. Detektionsledd rapportering är, som Guardians rapportering noterar, en tunn typ av säkerhet, och nästa uppsättning siffror kommer att visa vilka företag som faktiskt letar.

För AI-branschen är indexets budskap entydigt. Missbruk av generativa verktyg är inte längre en projektion i ett modellkorts riskavsnitt; det är den största raden i redovisningen, och de företag vars modeller och appar gjorde missbruket billigt kommer att bli ombedda att betala för det – i verkställighetsåtgärder, i efterlevnadskostnader och i lag.

Stay ahead of AI

Följ debatten om AI-säkerhet och reglering när den utvecklas. Läs mer AI-nyheter →