Zprávy o materiálu týkajícím se sexuálního zneužívání dětí spojeného s generativní umělou inteligencí vzrostly ze zhruba 4 700 v roce 2023 na více než 400 000 v roce 2025 – což je nárůst o více než 8 400 % za dva roky, podle údajů Childlight, Globálního institutu pro bezpečnost dětí se sídlem na University of Edinburgh.
Údaje byly zveřejněny v pondělí 16. listopadu v rámci Childlight's 2026 Into the Light Index a informoval o nich The Guardian. Představují doporučení, která technologické společnosti podaly americkému Národnímu centru pro pohřešované a zneužívané děti (NCMEC) – počet zjištěných a nahlášených platforem, nikoli sčítání všeho v oběhu. Nárůst je zatím nejjasnějším kvantitativním signálem, že generativní zneužívání umělé inteligence, dlouho popisované průmyslem jako riziko na obzoru, se stalo jednou z největších kategorií online zpráv o zneužívání dětí, což je posun dokumentovaný v probíhajícím přelomové zpravodajství o AI v oblasti bezpečnosti a regulace platforem.
Od 4 700 do 400 000 doporučení
Index sleduje zprávy, že technologické společnosti jsou ze zákona povinny zasílat NCMEC, když ve svých službách zjistí materiál podezřelý z pohlavního zneužívání dětí. Skok z přibližně 4 700 doporučení v roce 2023 na více než 400 000 v roce 2025 téměř přesně mapuje spotřebitelské zavádění generátorů obrázků a levných nástrojů pro jemné ladění ve stejném období.
Titulní číslo není jediné číslo v oběhu. NCMEC samostatně uvedla, že její CyberTipline obdržela mezi lednem a zářím 2025 více než jeden milion zpráv týkajících se generativní umělé inteligence – více než 400 000 citovaných Childlight, což odráží rozdíly v tom, jak jsou tyto dva počty zahrnuty. Tyto dvě datové sady měří překrývající se, ale odlišné věci a obě ukazují stejným směrem.
Nudify Apps a Deepfakes skutečných dětí
Zpráva Childlight také zdůrazňuje nárůst takzvaných nudifikačních aplikací, které využívají generativní umělou inteligenci k umístění dětské tváře na explicitní snímky. Obrázky jsou syntetické, ale škoda není: obrázky zobrazují skutečné děti, jsou sdíleny mezi pachateli a stále častěji se používají k vydírání a obtěžování nezletilých.
Profesorka Debi Fryová, ředitelka dat Childlight, uvedla, že rychlost, s jakou umělá inteligence mění hrozbu pro děti, je podle zpráv Guardianu hluboce znepokojivá. Problémem již nejsou hypotetické schopnosti, ale průmyslová výroba: to, co vyžadovalo úsilí a dovednosti v roce 2023, nyní vyžaduje pouze stažení z obchodu s aplikacemi.
Co hlídací psi nacházejí
Nezávislá hodnocení potvrzují rozsah problému. Internet Watch Foundation, britský hlídací pes, který přímo posuzuje oznámený materiál, našel v první polovině roku 2026 6 310 obrázků vytvořených umělou inteligencí, které splňovaly právní definici sexuálního zneužívání dětí – o 40 % více než v celém roce 2025.
Trajektorie videa je ještě ostřejší. IWF identifikovala v roce 2025 3 440 videí o sexuálním zneužívání dětí vytvořených umělou inteligencí, což je nárůst z pouhých 13 v roce 2024, a 65 % z nich bylo v kategorii A, což je podle britských zákonů nejzávažnější stupeň. Skok ze 13 na 3 440 za jediný rok ukazuje, že nástroje přešly od statických obrázků k pohyblivému videu rychleji, než se dokázaly přizpůsobit detekční systémy.
Předpisy jsou závody, abychom je dohnali
Nejdále se zatím posunula Velká Británie. Podle zákona o kriminalitě a policejní práci z roku 2026 je nyní držení, vytváření nebo distribuce nástrojů umělé inteligence určených k vytváření materiálů týkajících se zneužívání dětí trestným činem, za což se podle vládního informačního přehledu trestá až pěti lety vězení. Stejná legislativa kriminalizuje výrobu nebo dodávání nudifikačních nástrojů – opatření zaměřené přímo na vývojáře aplikací, kteří za nimi stojí.
Jinde je obrázek tenčí. Childlight's index zjistil, že pouze 22 ze 103 zkoumaných zemí má komplexní údaje z průzkumu zahrnující zneužívání dětí offline i technologicky usnadněné, což znamená, že většina vlád přijímá legislativu bez spolehlivého základu. Institut požaduje přísnější zákony o online bezpečnosti, lepší sběr dat, větší odpovědnost technologického sektoru a dřívější preventivní činnost.
Problém s kanálem hlášení
Při interpretaci čísel záleží na jednom omezení: data neuvádějí konkrétní modely nebo platformy jako zdroj ohlášeného materiálu. Tipy pocházejí od technologických firem, které skenují své služby a hlásí, co najdou – což znamená, že společnost, která nekontroluje, negeneruje zprávy. Hlášení vedené detekcí je, jak uvádí zpravodajství Guardian, slabým druhem bezpečnosti a další sada čísel ukáže, které společnosti skutečně hledají.
Pro průmysl AI je poselství indexu jednoznačné. Zneužívání generativních nástrojů již není projekcí v rizikové části modelové karty; je to největší řádek v účetní knize a společnosti, jejichž modely a aplikace zneužívání zlevnily, budou požádány, aby za to zaplatily – v rámci vynucovacích opatření, nákladů na dodržování předpisů a zákonů.
Stay Ahead of AI
Sledujte debatu o bezpečnosti a regulaci umělé inteligence, jak se vyvíjí. Přečtěte si další zprávy o AI →
