Anthropic 修改后的 IPO 文件周一因其财务状况而成为头条新闻——第三季度收入约为 170 亿美元，而计算承诺为 8954 亿美元。但修订后的 S-1A 的风险因素中隐藏着一项可能更为重要的披露：该公司表示，它可能即将跨越递归自我改进的门槛，即人工智能系统能够加速自身发展的临界点。
TechCrunch 报道称，该文件似乎警告说，Anthropic 即将创建一种能够递归自我改进的模型，通常称为 RSI——在这个阶段，人工智能变得如此擅长改进人工智能，以至于能力增益开始急剧复合。 更多相关背景，请参阅我们的AI最新动态。
文件实际内容
Anthropic 已经使用人工智能来加速自身的研发。在修改后的文件中，该公司警告说，这种做法是双向的：“使用人工智能帮助构建更强大的人工智能也可能带来相当大的安全风险，特别是如果它大幅加快进展速度的话。这是我们负责任的扩展政策涵盖的领域之一，该政策规定了我们在实现所谓的‘递归自我改进’时监控和减轻风险的计划。”
新的风险因素语言比 Anthropic 之前在其公开文件中所述的更进一步。该公司透露，它过去未能在发生重大能力飞跃时认识到这些飞跃：“我们过去没有识别出，而且将来也可能不会识别出我们的开发速度显着加快，直到它发生之后。”
随后的声明引起了业界的关注。文件称：“我们的内部估计和对未来模型的期望，而不是我们当前的模型，表明我们可能很快就会满足我们负责任的扩展政策的定义，即‘由于人工智能而大幅加速进展’。”
Anthropic 补充说，它“没有指定我们当前的任何模型超过这个阈值”，并继续评估基础数据。换句话说：当前的 Claude 型号均不符合要求，但该公司的内部预测表明其下一代可能符合要求。
让人类了解情况
除了警告之外，Anthropic 还致力于让人们控制模型开发。文件称：“如果技术上可行的话，我们预计无法在没有有意义的人类监督或理解的情况下安全地使用克劳德完全自主地设计和构建连续几代的前沿模型。” “因此，我们正在考虑更新我们的负责任的扩展政策，以使人类能够控制 Anthropic 的前沿模型开发。”
人工智能在 Anthropic 自身研究中的作用规模正在迅速扩大。 Business Insider 报道称，人工智能现在主导了 Anthropic 内部研发工作的大约四分之一，高于 3 月份的 1%——业内人士称该图表为人工智能领域最重要的图表之一。
话语转变：从流行语到资产负债表
今年早些时候，当“RSI”一词流行起来时，许多业内人士认为它是一个流行词，或者充其量是一个定义太模糊而无法实现、证明或监管的目标。现在，这个概念出现在公司向公众出售股票之前必须向美国证券交易委员会提交的一份文件中，并有精确的内部定义，因此这种怀疑更难站得住脚了。
人择并不是唯一将自我完善视为近期规划假设的公司。谷歌联合创始人谢尔盖·布林 (Sergey Brin) 将行业描述为“RSI 跑步机”，其中模型帮助培养继任者，前 OpenAI 联合创始人约翰·舒尔曼 (John Schulman) 表示，他预计在大约三到四年内实现递归自我改进。 Anthropic 披露的独特之处在于其正式性：明确的阈值、内部衡量流程以及公司预计何时跨越阈值的公开声明。
为什么 RSI 是双方阵营都关注的绊脚石
RSI 具有不同的含义，具体取决于描述它的人。对于人工智能安全研究人员来说，这代表了不归路——人工智能系统自我改进的速度快于人类理解、验证或干预的速度，有可能超出人类的控制范围。对于人工智能乐观主义者来说，同样的动力也是奖品：可靠地自我改进的系统将转化为非凡的生产力和科学发现。
人择的框架承认了这两种可能性。该披露内容位于一份主要受众为投资者的文件中，怀疑论者指出，S-1 既具有披露功能，又具有营销功能——声称该公司即将构建自我改进的人工智能，很容易被解读为对其估值的论证。
然而，这一主张是有具体依据的。到 2026 年，Claude 在编码、数学和网络安全方面的能力大幅提高，Anthropic 自己的负责任扩展政策定义了“人工智能带来的大幅加速进步”标准，该公司现在表示可能很快就会达到这一标准。
人工智能治理测试
这一披露正值有关前沿人工智能监管的政策争论日益激烈之际，从白宫审查前沿模型的框架到计算治理的国际讨论。如果一个领先的人工智能实验室正式指定一个模型满足其自己的加速进度阈值，它将触发 Anthropic 的负责任扩展政策下的义务，并且将是对此类行业框架是否可以在实践中减缓或塑造能力竞赛的首次现实测试。
Anthropic 表示，目前还没有模型越过界限。该文件显示，该公司预计很快就会跨越这一界限，并要求投资者提前了解该公司计划采取哪些措施。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
