Anthropic 发布前沿实验室速度测量结果，揭示公司内部有 30,000 名人工智能代理在工作

在前沿放缓争论中，Anthropic 分享了人工智能发展速度的三个新衡量标准：研发自动化指数、代理监督指标和计算分配。

Anthropic 于周六发布了一套详细的自我评估报告，旨在让公众、记者和政府跟踪前沿人工智能的实际开发速度，其中包括首个指数，显示该公司自己的研究目前有多少是由人工智能执行的，并披露了大约 30,000 名人工智能代理在任何特定时刻都在公司内部进行研究和工程工作。

这篇题为“了解前沿实验室内人工智能发展步伐的衡量标准”的帖子触及了业界最重要争论的中心：是否应该故意放慢前沿发展。达里奥·阿莫迪 (Dario Amodei) 呼吁进行协调以“控制前沿”，这一提议震动了市场，引发了消费者诉讼，指控主要实验室之间相互勾结，并促使特朗普总统宣布成立一支“人工智能部队”，致力于防止任何放缓。 Anthropic 的框架明确地说明了这一背景：“随着世界考虑放慢前沿人工智能发展的步伐，公众需要更多信息。”

追踪人工智能进展的三种衡量标准

该公司列出了三个测量领域，认为任何前沿实验室都可以定期发布：

1.有多少人工智能研发是由人工智能本身完成的。 Anthropic 通过对公司所做的每一种人工智能研发工作进行分类、对当前每项任务的自动化程度进行评级并汇总结果，构建了一个原型“Anthropic 研发自动化指数”。该评级使用 Epoch AI 的公开“自动化水平”量表，范围从 AL0（没有人工智能参与）到 AL5（人工智能完全自主运行，没有人参与）。在这个规模上，AL3 意味着人工智能“协作”——在人类的密切指导下完成大量工作——而 AL4 意味着人工智能“领导”，在人类监督下根据高级提示端到端地完成大部分任务。

该指数的目的是衡量任何实验室距离递归自我改进（一种完全自主地构建自己的后继模型）的距离有多远。 Anthropic 指出，加速人工智能开发的模型“可能会让人类理解或控制这些系统变得更具挑战性”。

2. AI 代理的行为受到监督的程度如何。 这是 30,000 个数字出现的地方。截至 2026 年 8 月，大约 30,000 名智能体随时在 Anthropic 最常用的内部平台内进行研究和工程工作，相互委派任务并长时间半自主地工作。该公司衡量了有关对这些代理的监督的三项指标：覆盖范围（在执行之前或之后通过监视器的代理操作所占的比例）、审核延迟（首先由自动监视器然后由人工审核标记的操作的速度）以及升级率（被阻止、重定向或标记为需要审核的活动的比例）。

Anthropic 迄今为止的监控数据表明，个体代理人很少行为不端，但该公司警告说，“当经济中有数百万或数十亿代理人在运作时，即使是罕见的事件也可能经常发生。”

3.计算如何分配。 第三个测量跟踪实验室的计算资源如何分配 - 与模型功能相关的原始输入。 Anthropic 认为，与其他两个指标一起，这为外部人员提供了一种将模型输入与模型输出关联起来的方法，补充了该公司已经通过其负责任的扩展政策风险报告发布的能力评估。

在经济放缓的情况下，数字会发生变化

这篇文章中最具政治针对性的一句话直接针对节奏辩论：Anthropic 表示，“如果按照 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 的呼吁，在前沿节奏上进行协调，它预计这些数字会发生变化。”换句话说，如果该行业确实放缓，公众可以通过这些指标来验证这一点——如果公司声称在其数量不断攀升的同时仍在加快步伐，那么测量结果也会暴露这一点。

独立验证是缺失的一环

Anthropic 承认自我报告指标的主要弱点：它使用自己的模型来评估自己的系统，这意味着“判断”模型可以共享被检查模型的盲点。该公司还指出，实验室之间缺乏通用的方法，这使得比较变得困难。

它提出的补救措施是在 Anthropic 内部嵌入来自多个组织的独立第三方评估人员，让他们能够访问与内部风险评估团队所看到的相当的内部流程、系统和数据。这些第三方将验证安全实践、报告事件并监控新指标。该公司表示，非营利性评估机构 METR 此前已独立对其线下监测平台进行红队重组，并计划以其他人可以验证的形式定期发布这些测量结果。

这些测量与 Anthropic 更广泛的高级人工智能框架提案相结合，该提案为前沿模型发布制定了“道路规则”，包括政府可能要求的透明度义务，例如标准化风险报告。