Anthropic 的 IPO 文件警告称，它可能“即将”跨越递归自我完善的门槛

Anthropic 修订后的 S-1/A 文件警告称，它可能很快就会达到自己对人工智能驱动的“显着加速进步”的定义：递归自我完善。

Anthropic 在修订后的 S-1/A IPO 文件中警告称，它可能“立即”满足其负责任扩展政策对“人工智能大幅加速进步”的定义——这一阈值被广泛称为递归自我改进（RSI），即人工智能系统在改进人工智能方面变得足够好，能力增益开始自行复合的临界点。 TechCrunch 周一报道了这一披露，强调了文件风险因素中隐藏的语言，这相当于任何人工智能实验室对其自身发展轨迹做出的最重要的声明之一。

用 Anthropic 自己的话说，该文件指出：“我们对未来模型（而不是当前模型）的内部估计和期望表明，我们可能很快就会满足我们负责任的扩展政策对‘人工智能大幅加速进展’的定义。”我们尚未指定任何当前模型超过此阈值，并且我们将继续评估基础数据。” 更多相关背景，请参阅我们的AI最新动态。

文件实际内容

该警告属于 Anthropic 越来越多地使用人工智能系统来加速自身研发的更广泛风险因素。该公司透露，这种动态已经产生了其未能实时认识到的能力飞跃。文件称：“因此，我们过去没有发现，将来可能也不会发现，我们的开发速度显着加快，直到它发生之后。”

人择将潜在的动态既视为引擎又视为危险。文件中写道：“使用人工智能帮助构建更强大的人工智能也可能带来相当大的安全风险，特别是如果它大幅加快进展速度的话。” “这是我们负责任的扩展政策涵盖的领域之一，该政策规定了我们在实现所谓的‘递归自我改进’时监控和减轻风险的计划。”

对于一份 IPO 文件来说，如此大的赌注是不寻常的。 RSI 这个概念比其他任何概念都更能区分人工智能的乐观和悲观观点。对于人工智能安全研究人员来说，递归自我改进是失控的场景：一个系统能够更好地构建更好的系统，加速超越人类监督仍然有意义的程度。对于人工智能的支持者来说，这是一个承诺：一种引导科学发现和生产力的工具，这是人类主导的过程无法比拟的。 Anthropic 的文件承认了这两种读数，同时有效地告诉投资者，该公司认为这种现象足够接近，足以保证其在风险因素中的立场。

人择保障措施前景广阔

除了警告之外，Anthropic 还致力于在可预见的未来让人类参与前沿模型开发的循环。文件称：“如果技术上可行的话，我们预计无法在没有有意义的人类监督或理解的情况下安全地使用克劳德完全自主地设计和构建连续几代的前沿模型。”该公司补充说，它“正在考虑更新我们的负责任的扩展政策，以使人类能够控制 Anthropic 的前沿模型开发。”

该公司对现在时非常谨慎：当前的 Anthropic 模型尚未被指定为超过 RSI 阈值。但“可能即将见面”这句话适用于未来的模型，而不是已交付的模型，这是对实验室如何解读其内部估计和当前正在进行的培训运行的惊人承认。

披露还是营销？

怀疑论者很快指出，S-1 同时服务于两个受众：它是法律披露和推销。声称一家公司正处于一项足以自行构建技术的尖端的说法可以被解读为警告或估值论证，或两者兼而有之。没有外部方法可以审核 Anthropic 的内部估计是否证明“迫在眉睫”这个词是合理的，而且该公司也没有指定任何当前模型为越线，这使得该声明取决于实验室自己对其研究管道的测量。

尽管如此，该文件所描述的基本趋势还是可以从外部观察到的。到 2026 年，Claude 在编码、数学和网络安全方面的能力大幅提高，而 Anthropic 也逐渐公开表示使用自己的模型进行研究、运行对齐实验和协助开发工作。文件中的新内容是，该公司在一份具有法律约束力的披露文件中正式确认，这种反馈循环可能很快就会在其自己的官方规模上登记为危险的加速。