丹麦最高法院裁定人工智能生成的虐待儿童图像非法

丹麦最高法院维持对一名男子 18 个月的刑期，该男子散布了数万张人工智能生成的虐待图像，裁定虚构的描述与真实的描述一样受到惩罚。

丹麦最高法院维持了对一名 31 岁男子的定罪，该男子因制作和传播超过 36,000 张描绘儿童性虐待的人工智能生成图像而被判处 18 个月监禁，并解决了全世界法院一直在讨论的一个问题：人工生成的虐待材料是否会像涉及真实受害者的图像一样被视为犯罪。法院本周宣布的答案是明确的——人工智能生成的儿童性虐待材料与真实的儿童性虐待材料一样非法，应受到惩罚。

这项裁决由路透社等国际媒体报道，并通过丹麦法院发布，结束了对具有数百年历史的儿童保护法如何吸收生成人工智能的第一个具有里程碑意义的上诉测试之一。被告因拥有和传播这些材料而在下级法院被定罪，并以没有真正的孩子参与制作这些图像为由提出上诉。最高法院完全驳回了这一推理，认为这些描述的虚构性质并没有将它们排除在刑法之外。对于追踪法律体系如何应对生成技术的读者来说，该决定是今年关于监管的 AI 新闻 中最重要的条目之一。

为什么此案如此重要

上诉的核心法律问题看似简单：当生成而不是拍摄图像时，它到底是“儿童性虐待材料”吗？在此类案件中，辩护方的论据传统上依赖于缺乏可识别的受害者——没有真正的孩子被拍照、伤害，甚至没有参与其中。这一论点已经获得了表面上的合理性，因为现代图像生成器可以对不存在的儿童进行逼真的描绘，包括真实的面孔、身体和环境，而无需任何真人的参考图像。

丹麦最高法院的回应使丹麦法律与《联合国儿童权利公约》的保护意图保持一致，丹麦实施法旨在服务于该公约。法院认定，法律并未为虚构描述开辟安全港，人工智能生成的材料属于现有禁令的范围。实际后果是，生成、拥有或传播此类图像会带来与传统虐待材料相同的犯罪风险——在本案中，对于从未涉及真实照片的材料，将被判处 18 个月的徒刑。

一项影响范围超越丹麦的裁决

尽管该判决仅对丹麦法院具有约束力，但其意义具有国际意义。欧洲和北美的检察官一直在努力应对人工智能生成的虐待图像激增的问题，多个司法管辖区的法院也通过不同的法律途径得出了类似的结论——一些司法管辖区依赖于已经涵盖了描述的法规，无论是否使用了真实的儿童，另一些则通过解释扩展了现有的淫秽和儿童保护框架。丹麦的裁决补充说，是一个在法律上以技术前瞻性思维而闻名的司法管辖区发表的清晰的上诉级声明，强化了正在形成的国际共识，即生产过程中没有真正的受害者并不是一种辩护。

该案例的规模（超过 36,000 张图像）说明了问题升级如此之快的原因。生成工具已将制作虐待图像的成本降至几乎为零，多个国家执法机构的查获统计数据显示，人工智能生成的材料在儿童剥削调查中的比例越来越大。与传统材料不同，每张图像都可以无限地生成、再生和变化，这既增加了调查人员必须分类的数量，也增加了使用逼真的赝品来诱骗、勒索或使真实儿童变得麻木的风险。

丹麦更广泛地打击生成性虐待行为

该裁决符合丹麦在生成性人工智能危害问题上明显激进的立场。丹麦一直在推进立法，禁止在未经同意的情况下共享人工智能生成的真实人物的深度伪造品，该法案将赋予公民对自己的肖像进行类似版权的控制——这种方法在提出时引起了广泛关注。特别是在儿童保护方面，丹麦当局将合成虐待材料视为优先执法目标，而不是法律灰色地带。

这种结合——针对深度伪造的积极立法，以及现在最高法院关于人工智能生成的 CSAM 的先例——使丹麦成为其他欧盟成员国实施欧盟人工智能法案及其相关儿童安全义务的参考点。在欧洲运营的平台和模型提供商现在面临着更清晰的情况：围绕合成虐待材料的过滤、检测和报告义务不仅限于来自真实受害者的图像。

这对人工智能公司意味着什么

对于构建生成图像和视频模型的公司来说，这样的裁决使本已严酷的合规领域的法律环境变得更加严峻。每个主要的前沿实验室都维护着过滤器，旨在阻止未成年人的色情描述，并且该行业已经投资于内容凭证等来源标准来区分合成媒体。丹麦的判决并没有改变这些工程义务——而是改变了赌注。当上诉法院确认生成的滥用图像与摄影材料受到相同的起诉时，将滥用内容保障措施视为核心安全基础设施而不是可选审核的论点变得几乎无法回答。

该裁决还为仍在起草回应的立法者提供了一个模板。法院不是等待议会通过专门命名人工智能生成材料的新法规，而是证明现有的儿童保护框架可以吸收该技术，但明确的法律语言将消除未来案件中被告将继续测试的模糊性。

这位 31 岁的男子 18 个月的刑期目前仍然有效。 “没有真正的儿童受到伤害”的法律虚构在欧洲最高法院遭受了重大的、公开的失败——这一信号将通过对丹麦境外人工智能生成的虐待材料的起诉而得到回应。