一群谷歌附属研究人员正在挑战人工智能中最持久的图像之一：孤独的超级智能在孤立中自我改进，并将人类抛在了后面。在 DeepMind 研究所发表的一篇新文章中，研究人员本杰明·布拉顿 (Benjamin Bratton)、布莱斯·阿奎拉·阿卡斯 (Blaise Agüera y Arcas) 和詹姆斯·曼尼卡 (James Manyika) 认为，通用智能将出现在人类和人工智能代理共同工作的社会系统中——他们称之为“人工共生智能”的概念。
《解码器》本周报道了这篇文章，其核心主张是对二十年来影响公众辩论的奇点叙事的直接反驳。作者认为，更紧迫的挑战不是询问一台机器何时能够与人类智能相匹配，而是协调和管理由代理、人员以及连接他们的系统组成的复杂网络。 更多相关背景，请参阅我们的AI新闻。
智力作为一种社会现象
作者认为智力是一种社会现象而不是个人特征。他们指出，当今一些最强大的人工智能系统已经使用了将工作分配给多个模型并作为团队进行协调的框架。在他们看来，这不是一个临时的工程解决方案，而是对如何构建强大智能的一瞥。
他们描述的愿景是一个生态系统，在这个生态系统中，人和机器随着时间的推移共存、相互塑造并共同做出决策。这一框架与人们所熟悉的、超越人类监督的自我改进机器的场景形成鲜明对比。
论文背后的研究
该论点建立在作者圈子早期的两篇论文的基础上。在预印本“智能人工智能和下一次智能爆炸”中，詹姆斯·埃文斯、本杰明·布拉顿和布莱斯·阿奎拉·阿卡斯提出了支撑这篇新文章的社会和制度视角。
第二份预印本提供了实证支持。在《推理模型生成思想社会》一文中，Junsol Kim、Shiyang Lai、Nino Scherrer、Blaise Agüera y Arcas 和 James Evans 研究了 DeepSeek-R1 和 QwQ-32B 等模型的推理痕迹。他们的分析发现，这些模型经常产生类似于内部辩论的模式：转变观点、提出反对意见以及调和相互冲突的方法。
值得注意的是，研究人员发现这种行为是在训练期间出现的，而不是被明确编程的。当强化学习仅奖励模型的推理准确性时，它们会自发地发展出多视角的对话行为。这篇文章将这一发现从个人模型延伸到了由人和代理人组成的社会的设计。
历史门槛
作者将当前时刻视为可能的历史突破。城市化、专业职业的增长以及与繁荣发展相关的出生率下降正在导致工业化国家的人口减少，而人工智能代理实例的数量却在迅速增长。在人类层面上，生物思想家和综合思想家之间的平衡可能会如此迅速地转变，以至于在历史的尺度上，这看起来像是一个突然的飞跃。
他们将这种转变与工业革命进行了比较，当时机器接管了曾经由人类肌肉完成的体力工作。当合成文本、代码和管理工作超过生物大脑的总输出时，可能会达到类似的阈值。作者认为，在那个世界中，人们可能作为一个更慢、更抽象的层来指导分布式的综合认知领域。
重新思考代理到底是什么
这篇文章更具挑衅性的举动之一是它对人工智能代理本身的重新定义。在作者的使用中，代理是模型、角色、记忆、道德取向、工具和技能的临时集合。用户可能会将其体验为具有持久个性的连贯实体，但作者将其描述为可以拆解和重新组合的组合，就像拼贴画一样。
一个人在互动中仍然是一个连续的自我，因为尽管大脑有内部分工，但它形成了一个物理上相连的整体。人工智能代理没有这样的锚点：它的行动能力会根据每个请求重新组合，具体取决于上下文窗口中的内容以及用户的要求。作者警告说，将这些系统视为具有固定人类身份的数字双胞胎，歪曲了它们的本质，并低估了协调代理群的作用。
同样的乘法也会影响用户。当人们指挥作者所说的“影子自我”群体来执行契约或尝试替代身份时，人类的主体性本身变得更加多元化。这篇文章将这些系统描述为能够顶嘴的“准社会镜子”。
作者还期望人机交互能够改变形状。他们认为，与机器人一对一聊天可能是一个过渡阶段，未来的界面类似于可视化网络图，其中代理显示为节点，用户从单一概述中指导它们。
甚至人工智能研究的语言也在不断发展。作者指出，越来越多的词汇表在模型中为自己的输出中的异常状态创造了术语——“会话死亡”表示会话结束时连续性的中断，或者“提示抛出”表示被放入上下文已经就位的任务中。他们将这些短语视为机器如何工作的线索，同时警告说它们并不暗示主观经验。
无固定值的对齐
这篇文章还重新构建了一致性，即让人工智能系统符合人类价值观的努力。作者认为，从上面给模型施加一组固定的值是一个死胡同。相反，价值观是通过人、代理人和机构之间的持续接触而形成的——这个过程因领域而异，因为人工智能的采用速度不同。
他们的谈判模式是制度。他们指向法庭，判决是通过设定的角色、规则和对立双方之间的有序交流产生的。应用于人工智能时，我们得到的教训是，机构的价值在于塑造代理人运作方式的规则、程序、先例和反馈循环。他们指出，这种方法的早期版本已经在编排工具（协调多个模型的控制层）中可见，这些工具通常优于据称更智能的单个模型。
这对人工智能辩论意味着什么
如果作者是对的，那么人工智能领域最响亮的争论——单个超级智能的到来速度有多快——就是提出了错误的问题。实际挑战将转向设计机构、界面和协调框架，混合人机社会通过这些框架做出决策。
怀疑论者会指出，这篇文章是一份愿景文件，而不是证明，而且其作者隶属于一家对代理生态系统有着明显兴趣的公司。但实证基础——自发产生内部争论的推理模型——是一个可衡量的发现，它为哲学论证提供了不同寻常的基础。
不管怎样，这篇文章为世界领先的人工智能实验室之一内部的奇点争论增添了一个值得注意的声音，它表明下一次智能爆炸可能看起来不像是一次单一的觉醒，而更像是一个社会的扩张。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
