OpenAI 和 Meta 警告联邦法官：Deepfake 证据的速度超出了法院的验证能力

OpenAI 和 Meta 告诉美国司法委员会，人工智能深度假货正变得无法检测，这使得法庭上的证据认证变得更加复杂。

据路透社报道，OpenAI 和 Meta Platforms 的代表周四向联邦司法小组表示，人工智能生成的深度伪造技术已经变得如此先进，以至于在法庭上验证音频和视频证据的真实性将变得更加困难。

技术专家在波士顿举行的美国司法会议证据规则咨询委员会会议上表达了他们的担忧。该委员会负责建议修改联邦规则，以管理法院可以接受的证据。该委员会自 2023 年以来一直致力于研究如何解决法庭上人工智能生成的伪造证据的风险。更多相关背景，请参阅我们的AI最新动态。

人工智能实验室称检测没有科学前途

OpenAI 的政策顾问希拉·安德森 (Shira Anderson) 告诉委员会，人工智能图像的质量在不断提高，并表示她不相信未来会存在检测它们的科学方法——这是一家构建生成该内容的生成系统的公司的惊人承认。

Meta 产品管理总监德文·诺德 (Devin Norder) 告诉专家小组，人类无法将最新人工智能模型创建的媒体与真实内容区分开来，而且创建此类媒体现在只需要最少的成本和时间。

两家公司都开发了视觉内容的出处和验证工具，加利福尼亚州和欧盟的新法律要求对人工智能生成的媒体添加水印。但安德森警告委员会，每家公司都使用自己的系统，这意味着不存在通用方法来可靠地检测所有水印或验证整个生态系统中视觉内容的真实性。

法院尚未感受到浪潮

该委员会主席、美国曼哈顿地区法官杰西·福曼（Jesse Furman）对这一警报做出了回应：虽然学术评论预测法院将处理深度造假问题，但这个问题在实际案件中尚未频繁出现。

联邦司法中心三月份进行的一项调查强调了这一差距。在做出回应的 931 名法官中，只有**15 人遇到过当事人以深度造假为由质疑证据的案例。

预测与实践之间的差距是委员会的核心困境。根据联邦证据规则 901 和 902，现有的证据验证标准（正如委员会自己的报告所述）是一个温和的标准：一方只需提供足以支持该项目与支持者声称的内容相同的结论即可。 Deepfakes 对该标准进行了压力测试，因为验证录音的传统途径（证人证词、系统文档）假设大规模伪造是困难的、昂贵的且可检测的。

该委员会自己的报告以不同寻常的直率阐述了这个问题。其 2025 年 12 月的报告研究了当审判中提供的视频或音频是深度伪造时会发生什么，得出的结论是，这对第 901 条和第 902 条规则的真实性要求提出了直接挑战，正是因为现有的真实性标准很温和。如何——以及是否——强化这一标准是委员会三年来一直在思考的问题，如果正如实验室代表警告的那样，检测科学永远赶不上一代科学，那么这个问题就变得更加紧迫。

实践者现在可以做什么

在规则改变之前，实际负担落在诉讼律师和初审法官身上。来源工具——在创建时嵌入的加密内容凭证——正在通过相机应用程序和创意软件传播，尽管它们只对携带它们的媒体有帮助。当前的防御措施是对录制者进行宣誓盘问、对原始文件和生成元数据的发现要求以及对社交平台上流传的无来源剪辑进行更严格的审查。咨询委员会本周传达的信息实际上是，这些权宜之计需要一个正式的规则层面的基础，因为非正式的规则假定了 OpenAI 和 Meta 所说的可检测性已不复存在。

为什么实验室的证词很重要

值得注意的是，其产品造成风险的公司正是向司法部门发出警告的公司。 OpenAI 和 Meta 在规则如何实施方面具有直接的商业和声誉利益：严格的身份验证要求可能会对人工智能媒体的合法使用造成摩擦，而宽松的身份验证要求可能会使他们的工具成为法庭欺诈的载体。他们向委员会传达的信息实际上是，出处标准（水印、内容凭证、监管链文档）是可行的路径，因为仅靠检测无法扩展。

该委员会为期三年的审查预计将告知联邦证据规则是否需要针对人工智能时代进行修改。任何变更都将在提交国会之前通过司法会议的规则制定程序，包括公众意见。