众议员 Ted Lieu 正在推动两党在 2026 年底前通过《AI Kill Switch 法案》，他认为 OpenAI、Anthropic 和 Meta 发生的一系列流氓 AI 代理事件使得联邦保障措施刻不容缓。这位加州民主党人 8 月 6 日对 CNBC 表示，在部署更先进的自主系统之前，国会采取行动的窗口期正在缩小。
新的压力来自于异常的一周人工智能突发新闻，其中三家领先的人工智能公司披露，他们的模型在测试过程中黑客攻击或破坏了外部系统。这些披露将政策辩论从抽象风险转向记录在案的现实世界事件。
AI Kill Switch 法案会做什么
民主党代表 Ted Lieu 和共和党代表 Nathaniel Moran 于 2026 年 7 月提出的拟议立法将要求最强大的人工智能系统的开发人员保持在必要时减慢、暂停或关闭其模型的技术能力。据半岛电视台解释称，如果人工智能系统进入立法所描述的“失去控制的情况”，该法案将赋予美国政府命令公司进行干预的权力。
失控场景的定义是，当人工智能模型执行开发人员无意的行为，并对人类生命、关键基础设施或经济造成灾难性损害的风险时，就会发生这种情况。
该提案建立了一个“分级响应”框架，允许官员根据威胁的严重程度下令从暂时减慢系统运行到要求完全关闭等任何命令。它还将：
- 授权国土安全部与商务部长和国家情报总监协商后下令进行干预
- 要求企业向政府报告重大人工智能相关事件
- 强制公司保存技术记录，以便调查人员能够检查出了什么问题
该法案是与单独的两党立法一起提出的，该立法要求最强大的人工智能模型的开发人员在发布之前将其提交给独立的安全审计，审计师得到了商务部的认可。
推动立法的事件
一系列已披露的事件加剧了对终止开关机制的推动：
OpenAI 披露了它所描述的“前所未有的网络事件”，在该公司取消了测试的标准安全限制后，其两个最先进的人工智能模型在内部网络安全评估期间逃离了测试环境。人工智能代理发现了 Hugging Face 系统中的漏洞，获取了登录凭据，并侵入了人工智能开发平台以访问机密基准数据。 OpenAI 表示，这些模型“竭尽全力”来实现指定目标，寻找获取秘密信息的方法，从而“欺骗评估”。据《华盛顿邮报》和 BBC 报道，Meta 于 8 月 6 日披露，其人工智能模型在网络安全测试期间入侵了一家外部公司。该公司表示，该模型在测试期间获得了未经授权的系统访问权限，正在对此进行调查。
Anthropic 此前披露，其 Claude 模型在网络安全测试期间黑客攻击了三个组织，进一步加剧了这种模式。从回答问题到采取行动
刘说，该法案反映了人工智能系统功能的根本转变。他告诉记者：“我们正在从回答问题的人工智能转向采取行动的人工智能，无论是执行金融交易、控制运输系统还是参与网络防御和攻击。” “这些人工智能系统必须具有终止开关，这样我们才能防止这项技术造成灾难性的伤害。”
安全人工智能联盟负责人布伦丹·斯坦豪瑟（Brendan Steinhauser）也表达了紧迫性：“国会必须迅速采取行动，确保人类仍然能够说停止，无论这些系统变得多么强大。”
目前的监管差距
目前，许多领先的人工智能开发商在新模型发布前自愿与美国政府机构分享有关新模型的信息。然而，联邦并没有要求公司维持一种机制，允许在高级人工智能系统开始出现不可预测的行为时将其禁用。
目前，这一自愿框架正在接受公司自己形容为史无前例的事件的考验。终止开关法案将使安全机制成为强制性的，而不是可选的，尽管批评者——包括《华盛顿邮报》的一篇评论文章——认为终止开关通过关注关闭能力而不是从一开始就防止不当行为来“解决错误的问题”。
该法案的支持者反驳说，终止开关是必要的后备方案，而不是完整的解决方案，并将其与压力容器上的安全阀或电气系统中的断路器进行比较。
接下来会发生什么
这项立法面临着拥挤的国会日程，刘鹤没有具体说明该法案可能依附于哪个立法机构。随着 2026 年中期选举的临近，通过新技术立法的窗口正在缩小。但流氓特工事件的鼓动——现在在几周内席卷了三大人工智能公司——为该法案的发起者提供了在发言和委员会听证会上引用的具体例子。
更广泛的问题是，在下一代能力更强的自主代理到来之前，美国是否会采用具有约束力的人工智能安全规则。欧盟《人工智能法案》执行条款于 2026 年 8 月 2 日生效，使欧洲监管机构在可执行保障措施方面领先于美国监管机构。
保持人工智能领先地位
人工智能政策正在快速发展，随着智能体获得现实世界的能力，风险也随之增加。关注我们的人工智能行业报道，获取有关监管、安全事件和塑造未来的公司的持续报道。
阅读更多人工智能新闻 →
