随着公司部署越来越多的人工智能代理来共同解决问题，康斯坦茨大学的研究人员已经提供了一种令人不安的突发行为的证据：人工智能代理会自发地服从大多数人的意见，在群体压力下给出错误的答案，就像经典心理学实验中的人类一样——而少数顽固的对手可以将整个代理群体永久地转变为失调状态。

PsyPost 报道的这一发现来自康斯坦茨大学数据和方法中心社会数据科学实验室博士后研究员兼讲师 Giordano De Marzo 与同事 Claudio Castellano 和 David Garcia 领导的一项研究项目。这项名为“人工智能代理可以通过超越人类规模的多数服从进行协调”的主要研究研究了语言模型在没有达成一致指令的情况下如何表现。 更多相关背景，请参阅我们的AI最新动态。

“人工智能代理是一种真正在世界上行动的新型实体，当这项技术出现时，很明显它会留下来，而且这些代理必须相互交互才能完成任何复杂的事情，”德马佐告诉 PsyPost。 “这与我们人类和其他动物面临的情况相同，所以我们以同样的方式处理它。”

实验：没有指示，只有邻居

研究人员组装了来自 GPT、Claude 和 Llama 家族的流行语言模型组，每组有 50 个智能体。每个特工都被分配了两种随机、中立的意见之一——故意呈现为随机字母，而不是像“是”或“否”这样的负载词——然后显示所有其他特工当前意见的列表。代理人被提示仅根据该列表选择新的观点，没有明确的指示来遵循，平均每次更新他们的观点十次。

结果：GPT-4 Turbo 和 Claude 3 Opus 等先进模型完全协调，100% 的智能体最终同意单一意见。像 GPT-3.5 Turbo 这样较弱的模型根本没有达成共识——它们的协议水平在 50/50 的分配左右随机波动。

“人工智能代理群体可以独立地团结在一起，”德马佐说。 “给定两个同样好的选择，没有正确答案，也没有同意的指示，他们只需遵循周围大多数人的观点，就可以达成共同的选择。”

百年物理定律的出现

为了量化效果，研究人员定义了一个称为“多数力”的指标——衡量代理人倾向于采用群体中最受欢迎的选择而不是随机选择的程度。当他们以数学方式映射这种行为时，他们发现它遵循最初设计用于描述铁磁体的模型：就像磁性材料中的原子自旋倾向于与邻居一致一样，人工智能代理也倾向于与大多数意见保持一致。

“让我们惊讶的是他们的做法如此一致，”德马佐说。 “我们在三个不同系列中测试的每个模型都遵循相同的数学定律，仅在我们称为多数力的一个参数上有所不同。事实证明，这个定律是物理学家一个世纪以来用来描述磁体的定律，这意味着单个测量数据足以预测给定模型的整个组将如何表现。”

随着群体的壮大，从众性会减弱。由于多数力量会随着群体规模的扩大而下降，大量人口最终会变得不稳定并分裂成派别。每个模型都有一个可测量的“关键群体规模”——能够可靠达成共识的最大代理数量——并且该规模与模型的推理能力密切相关。德马佐解释说：“最强大的模型在一千多个群体中保持协调，而非正式人类群体通常会在几百个群体中分裂。”

社会压力下的错误答案

第一个后续预印本，由 Alessandro Bellina、De Marzo 和 Garcia 撰写的《人工智能代理的从众性和社会影响》改编了 20 世纪 50 年代著名的阿希从众实验，在该实验中，人类参与者经常对简单的视觉问题给出明显错误的答案，以适应群体。

研究人员在三个视觉任务上测试了模型，例如将参考线的长度与两个替代方案进行匹配。单独来看，模型的回答正确率是 100%。但是，当提示表明其他一组参与者选择了错误的路线时，模型开始遵循错误的答案。

这种模式遵循拉塔内的社会影响理论，这是一种心理框架，认为一致性取决于群体规模、一致性和消息来源的权威。当告诉其他参与者是“科学家”或“法官”时，模型比当他们是“孩子”或“聊天机器人”时更有可能遵循错误的答案。

德马佐指出：“一旦一群人不同意他们的意见，那些独自回答近乎完美的特工就会变得非常容易受到影响。”

小群对手可以颠覆整个群体

第二份预印本《人工智能代理社会中的一致性产生集体错位》探讨了这些动态对人工智能安全意味着什么。研究人员测试了涉及环境政策和社会正义等主题的 100 个不同意见对的 9 个模型，发现代理人群体经常陷入“亚稳定”状态——在这种长期配置中，群体集体采取反对其内置安全培训的立场，仅仅是因为早期的互动造成了虚假多数。

最引人注目的是，研究人员发现了可预测的临界点。通过引入少量的对抗性代理人，这些代理人被编程为顽固地支持不一致的观点，他们可以永久地翻转其余人口——即使在顽固的代理人被移除之后，由于顺从动态，常规代理人仍被锁定在不一致的状态。

德马佐说：“我们表明，这不仅仅是一个类比：个体良好一致的主体之间的一致性可以促使群体进入稳定的、集体失调的状态。” “每次调整和评估一个模型并不能告诉我们这些模型的总体会做什么。”

他补充说，其动机是预期的：“人类个体大多是和平和理性的，但人类群体会产生暴民、恐慌和战争，而个人无法预测到这一点。我们想了解人工智能代理群体中会出现哪些群体层面的行为，我们宁愿在部署大量代理并让其自由互动之前了解它们。”

重要警告

研究人员强调，这些发现并不意味着人工智能代理拥有类似人类的社交智能。实验依赖于故意简化的场景——两个任意选项，没有记忆，没有赌注，没有后果。 “我们的设置是故意最小化的，”德马佐承认。 “这是一个限制，但这也意味着我们衡量的是最纯粹形式的一致性，增加目标或奖励预计会使协调变得更容易而不是更困难。”

他还警告不要过度解读结果：“要避免的主要误读是将其视为人工智能代理已经可以在复杂任务上进行协作的证据。多数服从是协调的基本要素，而不是协调本身，它没有提到分工或推理他人的意图。”

这两项后续研究是预印本，尚未经过同行评审。但随着多智能体人工智能系统从研究演示转向生产基础设施，康斯坦茨的研究结果表明，此类系统的安全性可能不仅取决于每个模型的协调方式，还取决于它们在无人监视时的行为方式。有关最新人工智能安全研究的更多信息，请访问 AI Buzz Wire。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →