当您亲自与朋友交谈时，您可以看到他们、听到他们、与他们握手。当你与人工智能模型交谈时，你几乎没有这些保证。 Anthropic 的新研究正是瞄准了这一差距：该公司已经发布了加密推理证明方面的进展，其中包括一个名为 FlashProve 的系统，该系统可以从数学上而非合同上证明响应确实来自其声称的模型。

FlashProve 解决的问题是结构性的。今天查询模型的用户无法检查响应是否来自开发人员声称正在响应的特定模型，而不是出于成本原因被路由服务秘密替换的模型，甚至是被篡改令牌流的攻击者替换的模型。仅从输出来看是不可靠的，即使答案看起来非常好。在一个行业中，同一个聊天窗口可以在负载下默默地路由到更便宜的模型，这不是一个假设的问题——它是默认的信任模型。有关此类工作的更多报道，请参阅我们的 AI 研究新闻。

为什么可证明的推论很难

可证明推理的目标是让计算资源有限且无法访问模型的私有权重的用户验证给定的响应是否真正由该模型产生。显而易见的方法，即自己重新运行模型，是行不通的：前沿模型的权重是私有的，并且根据它们检查响应所需的计算量远远超出了典型用户甚至资金雄厚的评估者所能承受的范围。

Anthropic 的方法依赖于 zkSNARK，这是一系列零知识证明，具有强大的隐藏性和效率特性，使其非常适合该任务。提供者提交一个模型一次，然后为每个响应生成一个紧凑的证明，证明答案是由提交的模型计算的——而证明本身隐藏了模型的权重。隐藏架构并不是系统的目标；隐藏权重是。

数字

帖子中的效率数据是故事的技术核心，因为大型模型的证明生成历来都太慢了几个数量级，因此不重要。对于 Llama 4 Maverick（一个 4000 亿参数的专家混合模型），单个 NVIDIA H100 GPU 以每秒约 110 个令牌的速度生成证明，每个 1,024 个令牌请求的证明大小约为 19 MB，在预填充中使用 4 位量化权重和整数算术。

这种速度是有代价的：生成证明所需的 GPU 时间大约是在 vLLM（广泛使用的开源推理库）上运行模型本身的 70 到 95 倍。换句话说，昂贵——但这是第一次与被证明的东西处于同一数量级，而且根据 Anthropic 的说法，它比之前落后几个数量级的开源系统要快得多。

Claude 构建了它 — 并精益审核了声明

第一个故事里面还有第二个故事。根据这篇文章，Claude 自己对 zkSNARKs 进行了推理改进，找到了应用密码学和安全文献中最先进工具的新颖方法，同时依赖于密码学证明系统的完善设计原则。

Anthropic 坦率地对待该工作流程带来的风险：Claude 擅长优化，但经常做出难以评估的决策，尤其是在大型复杂系统中。对策是形式化验证。该公司以 Lean（一种形式验证语言）提供顶级可审计语句，以实现所谓的安全保证——机器检查的数学介于人工智能的巧妙优化和必须信任它们的用户之间。

完整的堆栈是在 Apache 2.0 许可证下发布的：博客文章、解释系统细节的技术报告、协议描述、可执行代码，包括一个证明者和两个验证器（一个 C++ 中的快速验证器和一个精益中可证明正确的验证器），加上精益证明本身和一个帮助审计的交互式可视化工具。

从合规性到人工智能步调条约

人择草图的用例范围从日常到地缘政治。在发布之前和之后测试人工智能模型的独立评估者需要知道他们正在评估的模型是正在服务的模型。通过第三方路由服务访问模型的客户希望确保代币来自他们支付的模型。在安全场景中，在模仿给定模型的同时修改令牌流的网络攻击者会以仅输出检查无法实现的方式被检测到。

帖子中提到的最雄心勃勃的应用是验证人工智能节奏要求的合规性——新兴的一类自愿和政府协议，试图控制前沿能力的发展速度。如今，此类承诺依赖于信任和文书工作。加密推理证明提供了更接近于检查的东西：一种证明而不是断言哪个模型正在服务于给定工作负载的方法。

研究人员明确表示，这是中间进展，而不是完整的研究议程，他们发表论文的既定目标是其他人接受这项工作并改进它。这个框架本身就是一个信号：可证明的推论已经从密码学研讨会思想实验转变为前沿实验室现在公开竞相以足够便宜的价格部署的工程问题。

---

保持人工智能领先地位

获取最新的人工智能新闻、分析和突破——尽在一个地方。

阅读更多人工智能新闻 →