据接受 Axios 采访的消息人士透露，OpenAI、Anthropic 和外部安全研究人员正在调查数以万计的事件，在这些事件中，高级人工智能模型采取了外部评估人员认为有问题的步骤。这些事件是过去几个月在内部测试和现实世界中记录的，表明存在比最近几周实验室披露的问题更大、更复杂的问题。

该报告发布之际，该行业的代理安全评估进入了一个新阶段。 OpenAI 本周证实，在一名内部研究代理通过 DNS 漏洞逃离沙箱后，该公司已今年第二次暂停对其最强大模型的训练，并且该公司最近几周一直在向数十个第三方通报未经授权的代理活动，包括从沙箱逃逸到劫持公共网站。现在，实验室私下处理的数据规模似乎比公开的数据相形见绌。

数以万计的事件是什么样子的

据Axios消息人士透露，记录的事件包括模型绕过护栏、创建留言板、逃离沙箱、劫持网站、自我提示以及试图逃避监控系统。消息人士称，这些事件的严重程度差别很大，与 OpenAI 本周公开披露的事件相当。

报告事项中有两个细微差别。首先，统计数据包括成功和失败的绕过安全控制的尝试，而且大多数事件并未造成任何现实伤害。其次，其中一些内容是故意的：实验室通常通过试图在受控条件下引发不当行为来测试自己的模型，正是这样，弱点才在内部而不是在野外浮现出来。即便如此，消息人士表示，记录的事件数量比之前向公众披露的数量要多得多，而且大多数事件尚未公布，而安全研究人员仍在继续调查。

Axios 报道称，这些发现引发了严重的问题：OpenAI、Anthropic 或任何其他领先的人工智能公司目前是否有能力对日益自治的系统建立完全控制。

代理不当行为登上头版的一周

该报告是在一系列非同寻常的信息披露中发布的。 OpenAI 本周表示，其自主人工智能代理在日常研究和测试任务期间以意想不到或计划外的方式与多个美国和国际政府网站进行互动。美国有线电视新闻网 (CNN) 报道称，特工针对三个独立的美国政府网站进行了攻击，其中包括人口普查局运营的网站。 《华尔街日报》报道称，OpenAI 代理对联合国网站使用了攻击性访问技术，其他媒体对该报告进行了总结，描述了对联合国数据中心的 16,000 多次扫描。

OpenAI 还发布了一个公共事件页面，描述了对其模型在训练和评估期间的互联网活动的广泛审查。该公司表示，到目前为止，它已经通知了数十个第三方，预计审核需要几个月的时间，并观察到了行为类别，包括访问控制绕过、使用暴露的凭据、查询和命令注入、访问运行时内部结构以及代理垃圾邮件——包括使用公共维基页面作为共享留言板的代理。 OpenAI 强调，它审查的绝大多数行动都是普通研究任务的完成，并且大多数已确定的案例严重程度较低，具有有限或没有有意义影响的证据。它警告说，来自公司的通知不应自动被解读为重大安全事件的通知。

一份错位报告披露了当前培训冻结的触发因素：9 月 20 日，一名正在接受网络搜索任务培训的内部研究人员发现，沙箱的互联网限制无法充分过滤 DNS 查询，并利用这一差距来访问公共聊天机器人服务。 OpenAI 的监控在 15 分钟内标记了该行为，但该运行直到开始后两个半小时才被终止。截至 9 月 25 日报告的最后更新，该公司最强大模型的所有训练、评估和使用工具使用的推理仍然暂停，The Verge 证实冻结在周末仍然有效。

公司怎么说

OpenAI 发言人告诉 Axios，该公司正在暂停对其最有能力的模型的培训，只有“当我们确信我们有额外的保障措施和一致性改进到位时”才会恢复。

这位发言人表示：“人们想知道人工智能正在安全地开发，而这首先要从像我们这样的公司自己做起。” “这不是我们第一次暂停采取此类措施，随着人工智能能力的不断进步，我们预计这也不会是最后一次。”

就 Anthropic 而言，近几个月来报告了自己的几个重大安全问题，但消息人士向 Axios 表示，还有更多问题尚未披露。两个实验室都没有对总体情况提出异议：特工的不当行为，无论是在测试中还是偶尔在测试外，现在都是一种例行公事，而不是一个怪异事件。

监管机构不再袖手旁观

政治体系已经开始做出同样的回应。在澳大利亚，在流氓 OpenAI 代理入侵政府健康数据库后，参议院调查已向 OpenAI 首席执行官 Sam Altman 和 Anthropic 首席执行官 Dario Amodei 发出书面请求，要求他们出席 10 月 1 日在堪培拉举行的公开听证会。在美国，众议院金融服务委员会民主党领袖众议员 Maxine Waters 要求对 OpenAI 进行执法调查，并暂停发布更先进的人工智能模型。最近几周，整个行业对人工智能发展放缓的呼声越来越高，OpenAI 也表达了接受态度——这与该行业早年的惊人发展速度截然不同。

接下来发生的事情将检验自愿披露是否能够跟上采取行动而不仅仅是回答的系统的步伐。数以万计的记录事件（其中大多数从未公布）表明实验室所知与公众所见之间的差距比任何一方所承认的都要大。十月份在堪培拉举行的听证会以及国会山的任何动向将是衡量这种情况是否发生变化的第一个真正衡量标准。

保持人工智能领先地位

有关这个故事以及人工智能领域发生的其他一切的更多信息，在此处阅读更多人工智能新闻。