根据爱丁堡大学全球儿童安全研究所 Childlight 的数据,与生成人工智能相关的儿童性虐待材料的报告已从 2023 年的约 4,700 起激增至 2025 年的超过 400,000 起,两年内增长了 8,400% 以上。
这些数据于 11 月 16 日星期一发布,作为 Childlight 2026 Into the Light Index 的一部分,并由《卫报》报道。它们代表了科技公司向美国国家失踪和受虐儿童中心 (NCMEC) 提交的转介——对平台检测和报告的内容进行计数,而不是对流通中的所有内容进行普查。这一激增是迄今为止最明确的定量信号,表明长期以来被业界描述为即将出现的风险的生成型人工智能滥用已成为在线儿童剥削报告的最大类别之一,持续的平台安全和监管突发人工智能新闻报道记录了这一转变。
从 4,700 到 400,000 次推荐
该指数跟踪了一些报告,即科技公司在其服务中发现可疑的儿童性虐待内容时,必须依法向 NCMEC 发送报告。从 2023 年的约 4,700 次推荐跃升至 2025 年的超过 400,000 次,这几乎完全反映了同期消费者对图像生成器和廉价微调工具的推出。
标题数字并不是唯一流通的数字。 NCMEC 单独表示,其 CyberTipline 在 2025 年 1 月至 9 月期间收到了超过 100 万份与生成人工智能相关的报告,这一总数比 Childlight 的 40 万份引用还要多,反映出这两个计数范围的差异。这两个数据集测量重叠但不同的事物,并且都指向相同的方向。
裸体应用程序和真实儿童的 Deepfakes
Childlight 的报告还强调了所谓的裸体应用程序的增长,这些应用程序使用生成式人工智能将儿童的脸部放置在露骨的图像上。这些图片是合成的,但危害并非如此:这些图像描绘了真实的儿童,在犯罪者之间共享,并且越来越多地用于勒索和骚扰未成年人。
据《卫报》报道,Childlight 数据总监 Debi Fry 教授表示,人工智能改变儿童威胁的速度令人深感担忧。人们关心的不再是假设的能力,而是工业规模的生产:2023 年需要努力和技能的东西现在只需要在应用商店下载即可。
看门狗的发现
独立评估证实了问题的严重性。直接评估举报材料的英国监管机构互联网观察基金会 (Internet Watch Foundation) 在 2026 年上半年发现了 6,310 张人工智能生成的图像符合儿童性虐待的法律定义,比 2025 年全年增加了 40%。
视频的发展轨迹更加严峻。 IWF 在 2025 年发现了 3,440 个人工智能生成的儿童性虐待视频,而 2024 年仅为 13 个,其中 65% 属于 A 类,这是英国法律规定的最严重的等级。一年内从 13 个跃升至 3,440 个,这表明这些工具从静态图像转向移动视频的速度比检测系统的适应速度更快。
监管正在迎头赶上
迄今为止,英国走得最远。根据政府自己的情况说明书,根据《2026 年犯罪与警务法案》,拥有、创建或分发旨在生成虐待儿童材料的人工智能工具现已构成刑事犯罪,最高可判处五年监禁。同一项立法将制造或提供裸体工具定为犯罪——这一条款直接针对其背后的应用程序开发人员。
其他地方的图片更薄。 Childlight 的指数发现,在其调查的 103 个国家中,只有 22 个国家拥有涵盖线下虐待儿童和技术辅助虐待儿童的全面调查数据,这意味着大多数政府在立法时都没有可靠的基线。该研究所呼吁制定更严格的网络安全法、更好的数据收集、技术部门更大的责任以及更早的预防工作。
报告管道问题
在解释这些数字时,有一个限制很重要:数据没有指定特定模型或平台作为报告材料的来源。这些提示来自扫描其服务并报告发现内容的科技公司,这意味着不扫描的公司不会生成报告。正如《卫报》的报告所指出的那样,以检测为主导的报告是一种薄弱的安全措施,下一组数据将显示哪些公司实际上正在关注。
对于人工智能行业来说,该指数传达的信息是明确的。滥用生成工具不再是模型卡风险部分的预测;这是账本上最大的一行,而那些其模型和应用程序使滥用行为变得廉价的公司将被要求为此付出代价——包括执法行动、合规成本和法律。
保持人工智能领先地位
关注有关人工智能安全和监管的争论的展开。 阅读更多人工智能新闻 →
