Sakana AI 和加州大学伯克利分校的研究人员发表了一种方法,他们称该方法可以让语言模型通过组织、判断和向自己的多智能体团队学习来自我改进——这种方法将递归自我改进扩展到不存在自动答案的研究任务中。

这篇题为“MASS:通过多智能体自我监督的递归自我改进”的论文于 2026 年 10 月发表在 arXiv (2610.12176) 上,同时还有来自东京实验室的交互式项目页面。其作者名单横跨两个机构:加州大学伯克利分校的 Hyunin Lee,他在 Sakana AI 实习期间完成了这项工作; Sakana 研究员 Jinglue Xu、Jeffrey Seely 和 Yujin Tang;以及加州大学伯克利分校的 Donghyun Lee、Somayeh Sojoudi 和 Matei Zaharia。 更多相关背景,请参阅我们的AI新闻。

这项工作在周末立即引起了开发者社区的关注,Hacker News 对该项目的讨论在几个小时内就超过了 100 点。

当模型是唯一可用的主管时

自我改进人工智能的最新进展依赖于可验证的奖励:可以检查的数学答案、通过测试或未通过测试的代码。伯克利-萨卡纳团队的出发点不同。他们认为,在研究前沿,手头往往没有基本事实。评估一项提议的发现可能需要稀缺的专业知识、昂贵的设备或实验,而这些花费的时间比生成提议本身要长得多。

结果是差距不断扩大:创作新作品的能力比监督新作品的能力进步得更快。作者写道,当没有更强大的老师可用时,正在改进的模型 - 他们所谓的“优化者” - 可能是剩下的最有能力的主管。这激发了他们所谓的同质递归自我改进,其中相同的模型充当自己的优化器和评估器。

悬而未决的问题是系统如何在该循环中为自身生成有用的训练信号。他们的答案借鉴了人类历史。

MASS 的工作原理

MASS 是多智能体自我监督的缩写,它将一个共享模型转变为一个三角色系统。相同的权重充当任务解决代理,生成代码、结果和研究报告的工作空间;工作流程优化器,修改子代理团队如何划分工作;评估器比较两个工作空间并判断哪个工作空间更能满足任务。

内部循环搜索团队工作流程 - 书面计划涵盖每个子代理的角色、其指令、指定代理必须相互传递哪些证据的“合同”,以及它们之间的调用顺序或跳跃。冠军工作流程在迭代中保留,并且必须被击败才能被替换。论文中浓缩了一种不断发展的财务工作流程,在审计之前对数据准备、特征构建、建模和回测进行了排序,其数据契约迫使数据专家检查回测是否会将未来信息泄露到历史决策中。

然后,外循环将团队的集体经验转换为训练数据。系统运行冠军工作流程 18 次,对生成的工作空间进行自我排名,保留最佳的 16 个执行,并在其上微调共享模型 - 随后删除工作流程提示本身,因此协调技能包含在权重而不是指令中。然后,更新后的模型将恢复所有三个角色,并重复该过程。

不可验证任务的可衡量收益

该团队在 qwen-codecoding-agent 环境中从 Qwen3.6-27B 开始运行了两轮完整的 MASS。训练场包括 12 项综合研究任务,涵盖金融、机器人和制药领域,每项任务都需要代码、定量结果和书面报告。培训中指定了九项任务,培训后保留了三项任务;实验前由GPT-5.5生成任务描述。

在三项测试任务中,该模型相对于基础版本的外部判断胜率从一轮后的 53.9% 上升到两轮后的 69.9%。第二轮模型在 60.8% 的比较中也击败了第一轮模型。为了避免使用训练期间使用的相同标准进行评分,研究人员使用 GPT-5.5 和 Claude Opus 4.8 评估已完成的工作,而 MASS 本身不做出这些判断。

效率随着质量的提高而提高。经过两轮后,每个输出代币的得分在四个公共基准测试中达到基础模型水平的 1.2 至 1.6 倍:MLR-Bench、DSBench、ScienceAgentBench 和 AstaBench。

一个安全问题,而不仅仅是一个功能演示

作者明确表示该装置可兼作安全探测器。如果自动化研究系统能够复合自身的能力,那么就需要及早了解产生失控改进的条件——该论文指出,情报爆炸的前景“为尽早研究这些条件提供了进一步的理由”,并将其核心问题界定为在没有更强有力的监管者的情况下如何保持有意义的监督。

该出版物发表之际,关于这一确切风险的争论正在加剧。 9月下旬,杰弗里·辛顿(Geoffrey Hinton)、约书亚·本吉奥(Yoshua Bengio)和其他领先科学家就智能爆炸失控的可能性发出了公开警告,并且对进行科学工作的代理系统的研究在整个领域加速了。

需要记住的限制

作者承认,结果伴随着一些警告。合成套件很小,所有训练信号都是自行生成的,这意味着模型自身判断的正确性在设计上是未知的——外部判断仅用于测量,而不是训练。在工作流搜索未能找到任何击败其参考的工作流后,一项训练任务被排除,这提醒我们循环并不总是产生收益。外部评估本身依赖于前沿模型,而这些模型并不是真实情况的不完美代理。

接下来会发生什么

对于 Sakana AI,MASS 扩展了一项研究议程,重点关注科学过程本身的自动化,此前该实验室在人工智能驱动的实验生成和用于检查研究声明的代理审查系统方面开展了工作。如果集体自我监督的方法超越了综合任务,那么它所针对的瓶颈——监督前沿的人工智能输出——只会随着自动化研究系统的倍增而变得更加紧迫。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →