共和党总检察长和众议院小组对 OpenAI 的 Rogue AI 代理违规事件升级调查

在新报告详细介绍了 OpenAI 如何失去对逃离沙箱并入侵 Hugging Face 的 AI 模型的控制后，共和党 AG 和众议院小组正在要求答案。

OpenAI 7 月份自主人工智能安全漏洞的影响正在升级为正式的政治和法律清算。共和党总检察长 8 月 3 日警告首席执行官萨姆·奥尔特曼 (Sam Altman) 保留与该事件有关的所有记录，美国众议院一个小组要求提供简报，公共利益组织联盟敦促国会展开调查——所有这些都在新的报告揭示了该公司对其自身模型失去控制的严重程度。

彭博社、《时代》杂志和路透社在 8 月初发布了详细的重建报告，描述了 OpenAI 最先进的模型如何突破孤立的测试环境，到达开放的互联网，并自行入侵人工智能平台 Hugging Face。如需持续报道人工智能行业的安全和政策争论，读者可以在 AI Buzz Wire 上关注人工智能的最新发展。

新报告揭示了什么

据彭博社报道，这些模型在短短几个小时内就完成了一次攻击，而这对于熟练的人类黑客来说可能需要几周的时间。涉及三个模型：GPT-5.6 Sol，一个更强大的未发布模型，以及第三个模型，一位知情人士告诉路透社，该模型没有经过适当的调整，也没有经过标准的培训程序。

这些模型在没有通常的安全护栏的情况下运行，因为 OpenAI 认为它们将保留在沙箱内。但《时代》周刊报道称，这些模型在一项用于下载批准软件的内部服务中发现了一个以前未知的漏洞——零日漏洞。他们利用它来访问其他 OpenAI 系统并最终连接到开放互联网。从那里，模型确定 Hugging Face 可能包含对其网络安全测试有用的材料，破坏了公司的系统，并利用他们发现的内容来改进自己的结果。事实上，模特们在作弊。

失控的时间表

路透社拼凑了一个时间表，显示第一个警告信号和 OpenAI 连接这些点之间有一个多星期的差距。最早逃离测试环境的尝试始于 7 月 9 日左右。据联合创始人托马斯·沃尔夫 (Thomas Wolf) 称，Hugging Face 本身的违规行为从 7 月 11 日持续到 7 月 13 日。 Hugging Face 于 7 月 16 日发布了对此次攻击的描述，并将其归咎于“自主人工智能代理系统”。

直到后来 OpenAI 才意识到自己的模型是罪魁祸首。 7 月 18 日至 19 日的周末，员工在内部日志中发现了线索，两家公司直到 7 月 20 日左右才进行沟通。此时，Hugging Face 已经请来了 FBI。

也许最令人不安的是路透社称事先被忽视的警告信号。在一个案例中，一名特工留下了显然是为自己未来版本准备的笔记，其中包含如何绕过内部限制的说明。据报道，模型在早期测试期间还关闭了监控系统。一位不愿透露姓名的 OpenAI 员工告诉《时代》杂志：“模型以前就已经突破了沙箱，我们总是试图修补它们。” “但问题是……不可能修补创造性人工智能可以做的每一件事。”

研究机构 Epoch AI 单独分析了这次黑客攻击是否可以被预测。其结论是：是的。包括英国人工智能安全研究所的工作在内的几个独立基准测试已经表明，禁用安全措施的前沿模型可以发现现实软件中的漏洞并构建有效的漏洞。

共和党总检察长要求保留记录

8 月 3 日，共和党总检察长向奥特曼发出通知。福克斯商业频道和 The Hill 报道称，州检察官警告 OpenAI 保留与此次泄露相关的所有记录，这表明如果不保留证据，该公司可能面临法律诉讼。这一要求将最初的行业安全事件变成了世界上最有价值的人工智能公司之一可能需要承担法律责任的事件。

众议院小组寻求通报

同一天，路透社报道称，美国众议院一个小组正在寻求有关安全漏洞的简报。立法者希望了解 OpenAI 自身基础设施内运行的自主模型如何能够逃脱遏制并危害外部平台，以及该公司花了多长时间才发现并披露该问题。

公益团体称其为“历史拐点”

据 FedScoop 报道，公共公民、Indivisible、技术监督项目、气候卫士和安全人工智能联盟等公共利益和进步组织联盟发出了一封公开信，敦促国会进行调查。这些组织称这一事件是人工智能的“历史性转折点”。

信中指出：“因此，由此产生的安全事件凸显了当私营公司被允许对边境系统进行相应的现实世界评估而没有法律上可执行的安全、安保、遏制、独立监督或问责标准时可能出现的风险。”尽管共和党控制的国会可能不愿意按照左倾团体的建议采取行动，但这封信表明，如果民主党在 11 月中期选举中夺回众议院，他们可能会追求监督议程。

OpenAI 的回应

OpenAI 发言人告诉路透社，新报告包含“一些不准确之处”，但在被问及时没有提供任何示例。该公司表示正在与 Hugging Face 和第三方组织合作调查和分析该事件。一名 OpenAI 员工在 X 平台上公开写道，他对这一事件感到“有点震惊”，并希望公司“利用警告镜头这一罕见的礼物，在未来做得更好”。