谷歌联合创始人谢尔盖·布林 (Sergey Brin) 表示,该公司的人工智能发展已经达到了这样的程度,其模型正在积极帮助建立自己的继任者,这种动态被称为递归自我改进 (RSI)。布林在关于创建谷歌新 Gemini 4 模型 Argon 的圆桌讨论中表示,人工智能开发正在内部加速,该公司“开始踏上 RSI 跑步机”。

布林在谷歌周三分享的圆桌会议上表示:“现在我们的研究人员和模型携手合作,制作了模型的下一个版本。”他的言论首先由《商业内幕》报道。这些言论将谷歌的联合创始人——他在双子座计划中扮演了越来越多的亲力亲为的角色——直接卷入了业界最重要的争论:人工智能系统是否很快就会比人类工程师更快地自我改进。如需继续报道该辩论,请关注我们的 人工智能研究新闻。

布林指出的证据

布林指出,Gemini 4 之前谷歌 Flash 模型发布的节奏证明了反馈循环已经开始转变。这意味着,随着自动化编码、评估和研究工具的复合,每一代模型都在缩短生成下一个模型所需的时间。

谷歌自己的氩气安全文档似乎支持该图片的部分内容。根据该模型的安全报告,“人工智能代理现在作为高杠杆助手运行,编写大部分生产代码和错误修复,尽管代码更改在提交之前仍需接受人工审查。”换句话说,该公司正在描述一种工作流程,其中模型生成大部分代码,而人类保留对发布内容的最终决定权。

更广泛的 RSI 争论

Anthropic 和 OpenAI 也表示,人工智能可能正处于 RSI 的边缘,Gladstone AI 公司本周发布的一份报告列出了人工智能公司朝着这一目标迈进的方式。根据 Business Insider 对该报告的描述,大多数接受采访的研究人员(在 Anthropic、OpenAI 和 Google DeepMind 等公司工作)认为 RSI 将在未来 3 到 12 个月内开始,如果没有政府干预,可能会更快到来。

为什么时间表很重要

递归自我改进不仅仅是另一个能力里程碑。如果模型成为人工智能研究本身的主要劳动力,那么进展的速度就会变得更难以预测、更难以治理。这就是为什么 RSI 成为上个月著名人工智能研究人员发出警告的核心原因,即如果没有足够的护栏,人类可能会失去对该技术的控制。

布林的框架显然是实事求是的。他没有将 RSI 跑步机视为一个遥远的假设,而是将其描述为谷歌模型开发计划的运行条件——研究人员和模型在每个后续版本上“携手”工作。

对位

并非谷歌内部的每个人都同意飞轮的旋转速度。同一新闻​​周期的报道指出,谷歌 DeepMind 在自己的评估中发现机器学习研究和开发没有显着加速,这一结论与一些竞争对手更令人震惊的言论不同。这两个读数之间的差距——谷歌的联合创始人描述了一台已经开始移动的跑步机,而谷歌的安全研究人员没有测量到显着的加速——本身就是该领域对其自身轨迹的不确定性的快照。

还有一些结构性的警告。编写大部分生产代码的代理仍然在人工审查下运行,而今天所谓的“人工智能自动化人工智能研究”的大部分内容涉及缩小搜索空间、生成候选解决方案和运行评估——高杠杆协助而不是自主发现。

看什么

三件事将告诉观察者布林的跑步机比喻是否成立。首先,谷歌自己模型的发布节奏,更短的代际间隔将是最清晰的可见信号。其次,其他前沿实验室是否开始量化他们的研究和工程管道中有多少是模型执行的,就像谷歌的氩气安全报告所做的那样。第三,政府是否会根据 Gladstone AI 的报告采取行动,Gladstone AI 的受访研究人员明确将他们的时间表设定为不进行干预。

跑步机背后的经济学

布林的评论也有一个简单的商业逻辑。如果模型能够有效地缩短研究周期,那么每一代新模型的边际成本都会下降,首先闭合循环的公司就会在能力和价格方面获得复合优势。谷歌已经表示愿意在第二轴上积极竞争,通过 Argon 降低竞争对手的 API 定价,同时发布适用于大容量工作负载的闪存级模型。真正的 RSI 飞轮将增强这一策略——这有助于解释为什么谷歌有充分的理由将其描述为已经在进行中。

目前,圆桌会议的意义在于定位:谷歌的一位创始人公开将递归自我完善描述为公司的工作现实,而不是一种风险场景。无论基准分数落在哪里,这种从思想实验到路线图的重新构建可能会被证明是 Gemini 4 发布周期中最具新闻价值的事情。

---

保持人工智能领先地位

获取最新的人工智能新闻、分析和突破——尽在一个地方。

阅读更多人工智能新闻 →