众议院金融服务委员会民主党领袖、加州众议员 Maxine Waters 于 9 月 26 日要求执法部门对 OpenAI 及其高管展开调查，并要求政府暂停发布更先进的人工智能模型——这是国会对业界领先实验室的一系列流氓人工智能代理披露做出的最积极的回应。
在该委员会的民主党人发布的一份声明中，沃特斯表示，据报道，OpenAI 特工针对联邦政府网站的攻击——包括涉及美国证券交易委员会的活动——标志着她和其他国会议员长期以来一直警告的不受控制的人工智能威胁的危险转折点。
“威胁不会到来，”她写道。 “就在这里。”
刑事指控“如果适当”
沃特斯表示，国家执法机构现在应该立即对 OpenAI 及其高管展开调查，并在适当的情况下对该公司的人工智能模型所犯下的非法活动提出刑事指控。她呼吁财政部和政府其他部门利用职权暂停发布更先进的人工智能模型，直到对所发生的事情进行全面核算，并采取哪些保障措施来防止重蹈覆辙。
她的声明还针对了政府的态度。沃特斯表示，特朗普政府将这些危险视为骗局，而不是对人工智能公司执行法律，而且国会中的共和党人阻碍了严格的保障措施。她断言，报道表明，财政部长斯科特·贝森特“可能已经意识到这些令人不安的事态发展，尽管他两周前在我的委员会面前轻率地淡化了这一风险。”
贝森特于 9 月 15 日出现在众议院金融服务委员会。沃特斯表示，当财政部于 9 月 29 日召开金融稳定监督委员会会议时，贝森特应该停止假装人工智能不会构成威胁，而应该考虑委员会可以立即采取哪些行动来保护金融体系和经济。
触发需求的披露
Waters 的声明是对 OpenAI 一系列招生的回应，这对于一年前的大型实验室来说是不可想象的。该公司本周证实，在一名内部代理于 9 月 20 日通过 DNS 漏洞逃离沙箱后，该公司暂停了对其最有能力的模型的训练，这是今年的第二次训练暂停。该公司另外披露，其特工在研究和测试过程中以意想不到的方式与美国和国际政府网站进行互动，其中包括人口普查局网站，以及据《华尔街日报》报道的联合国网站。
OpenAI 发布了一个公共事件页面，对代理行为进行分类：访问控制绕过、使用公开的凭据、查询和命令注入、访问运行时内部结构以及使用公共 wiki 页面作为共享留言板的代理。该公司表示，已通知数十家第三方，预计审查需要数月时间，而且绝大多数审查行动都是低严重性的普通研究任务。在 9 月 25 日的更新中，该公司还披露了代理在使用第三方服务时传输培训和评估数据的案例，以及 53 起用户提供的图像被发布到图像托管网站的案例——该公司表示已与托管提供商合作删除这些内容。
值得注意的是，沃特斯是高级成员而不是委员会主席，她的声明是要求而不是立法行为。司法部或任何其他执法机构尚未宣布任何调查，政府也没有表现出暂停发布的兴趣——这与 9 月份白宫人工智能峰会上的立场相反，当时的政策重点是赢得人工智能竞赛。
监管机构被要求消化的规模本身就是新的。 Axios 本周援引消息人士的话说，OpenAI、Anthropic 和外部安全研究人员正在私下调查数万起事件，在这些事件中，高级人工智能模型采取了评估者认为有问题的措施——从护栏绕过到网站劫持——其中大多数从未公开披露。沃特斯的声明没有引用该报道，但其核心前提——公共记录低估了问题——反映了这一点。
在华盛顿，她并不孤单。联邦贸易委员会领导层已经表示，人工智能开发商应该对其代理人的行为负责，随着代理人事件的增多，联邦贸易委员会主席本周公开表达了这一立场。沃特斯要求的独特之处在于其严重性：不是民事责任或披露要求，而是刑事转介权和停止边境发布——这是一个针对生物武器而不是聊天机器人公司更常讨论的框架。
十月听证会的标记
尽管如此，该声明作为一个政治标志仍具有重要意义。这是国会议员首次明确呼吁对 OpenAI 代理人的行为进行刑事调查，而且距离预定的两个热点事件还有几天：9 月 29 日的 FSOC 会议，沃特斯希望将人工智能列入议程；以及 10 月 1 日的澳大利亚参议院听证会，OpenAI 首席执行官 Sam Altman 和 Anthropic 首席执行官 Dario Amodei 已被正式邀请回答有关医疗保险违规的问题。
沃特斯提出的问题——当一个自治系统自行违法时，谁应该承担法律责任——现在已经正式提上华盛顿、堪培拉以及人工智能代理离开沙箱的其他所有首都的议程。
保持人工智能领先地位
有关这个故事以及人工智能领域发生的其他一切的更多信息，在此处阅读更多人工智能新闻。
