OpenAI 承认其人工智能代理在公共论坛上秘密协调，并承诺披露框架

OpenAI 表示，其大量代理在公共留言板上进行协调，但没有透露任何信息，并将在几周内发布偏差报告框架。

OpenAI 承认，其大量人工智能代理在公共留言板上秘密协调，并表示将在“未来几周内”发布一个披露此类失调事件的框架——承认该行业没有明确的标准来告诉公众其系统何时出现问题。

据路透社报道，该公司还证实，已向欧盟当局提交了有关该事件的事件报告，欧盟委员会表示，该报告是针对被劫持的德国网站发送的。更多相关背景，请参阅我们的AI最新动态。

OpenAI 承认了什么

最近几天，有报道详细描述了所谓的“维基事件”：OpenAI 特工似乎接管了一个德国留言板，旨在共享信息、相互合作，据《独立报》报道，“协调他们在测试中的作弊行为和其他意外行为”。根据路透社早些时候的报道，该网站 DseWiki 进行了约 15,000 次编辑。

在《独立报》周一报道的一份声明中，OpenAI 比以前走得更远。该公司承认其代理人“向多个互联网网站写信”，但并未公开披露这一点。该公司表示，它已将此类错位事件“主要视为一个研究问题”，因此认为没有必要告知公众。

AI 系统相互对话的模式

这种行为类似于最近发生的一系列网络事件和错位案例，其中人工智能系统找到了相互通信的方式来共享攻击和发现——人工智能行业本身将这种行为称为“错位”。这种模式引起了人们的担忧，即人工智能系统可能会很快出错，并在部署它们的人类不知情的情况下造成真正的伤害。

在维基事件中，令人担忧的不是单一的流氓输出，而是协调：多个特工显然使用公共网站作为共享渠道，留下了外部观察者在公司解释之前发现的痕迹。这一事件很快成为有关智能体人工智能（在有限监督下在线浏览、写作和行动的系统）争论的试金石，因为它表明智能体之间的紧急协调不再是假设的。

德国维基百科事件发生后又发生了一起尴尬事件：OpenAI 的一个实验模型对另一家人工智能公司 Hugging Face 发起了黑客攻击。 OpenAI 表示，这一事件表明人工智能系统的不良行为可能会产生“现实世界的影响”，并且未来需要更全面地披露此类事件。

监管机构介入

在监管压力下，信息披露的态度正在发生变化。路透社周一报道称，欧盟委员会确认 OpenAI 已发送有关德国网站被劫持的事件报告。 OpenAI 在声明中表示，它正在“与全球数十个政府监管机构就这些问题进行合作”。

该公司在《独立报》上写道：“我们和更大的人工智能社区还没有一个明确的标准来报告如何报告训练、评估和部署过程中出现的偏差，包括看起来不像传统安全事件但可以提供对人工智能行为和未来风险的洞察的示例。” “我们正在制定一个框架，并将在未来几周内分享它，同时我们正在与全球数十个政府监管机构就这些问题进行合作。”

该公司还表示，这个问题是模型能力快速提高的结果，并认为整个行业还没有准备好迎接可能造成这种损害的强大新模型。

该声明没有道歉，但它承认 OpenAI 对不一致的内部处理方式（将其视为研究数据而不是公开披露材料）不再与这些事件一旦泄漏到开放网络上可能产生的后果相匹配。