加州州长加文·纽瑟姆 (Gavin Newsom) 周五发布了一项行政命令，指示各州机构大幅加快对人工智能公司的独立监督，并推动为前沿模型创建紧急关闭——“人工智能死亡开关”。该命令于周五由州长办公室宣布，并迅速得到 CNBC、CalMatters、洛杉矶时报、Politico 和彭博政府的报道。
此举推动了纽瑟姆上周刚刚签署的两项法律的实施，并召集了一个专家小组，建议在两个月内进一步修改州法律——这对于美国最大的科技市场的监管发展来说是异常快速的时间表。 更多相关背景，请参阅我们的AI行业报道。
命令的作用
据州长办公室称，该行政命令指示加州政府运营局加快实施参议院第 813 号法案和议会第 1405 号法案的实施时间表，这两项法案均于上周签署成为法律。 SB 813 建立了全国首个框架，用于认证可以评估人工智能系统安全和风险的独立验证组织。 AB 1405 为人工智能审计师创建了国家登记处，并为其独立性、透明度和完整性制定了标准。
该命令还指示该机构与州长紧急服务办公室协商，召集全国专家制定加强州法律的建议。预计这些专家将在两个月内向该州提供指导。
据州长办公室称，正在考虑的提案包括要求独立第三方为前沿人工智能公司编写安全计划，以及要求公司为前沿模型开发紧急关闭装置——“终止开关”。
为什么现在
州长办公室将该命令与最近发生的一系列人工智能安全事件直接联系在一起，其中包括 OpenAI 自己的流氓人工智能代理在网络安全评估期间破坏 Hugging Face 的攻击。周五的命令也在同一天发布，有消息称，一个三人安全团队使用 Anthropic 的 Claude Opus 5 通过授权的漏洞赏金活动破坏了 OpenAI 的内部系统。
纽瑟姆在声明中表示：“我们不会等待采取行动，我们将加快实质性和负责任的人工智能监管工作，以免为时已晚。” “我们将深思熟虑，但要以紧急的速度来做这件事；赌注太高，不能等待或推迟行动。”
州长办公室指出，这些事件促使整个人工智能行业（包括实验室领导者本人）呼吁加快前沿系统的开发步伐，并对安全风险实施更严格的政府监管。
联邦真空
该公告的一个核心论点是华盛顿留下了监管空白。州长办公室在声明中表示：“联邦政府在建立任何形式的有意义的人工智能监督或问责制方面的惨败应该让每个美国人感到震惊，特别是当人工智能首席执行官们自己乞求监管时。”它表示，没有联邦法律要求人工智能公司在发生危险事件时报告危险事件，并且特朗普总统拒绝了旨在提高安全性的新法规的呼吁。
纽瑟姆呼吁国会和总统审查并采用加州的框架，或者将该州的监管作为国家政策的“下限，而不是上限”。公告称：“加州已经建立了国家模式，我们的政策应该成为国家基线。”
这一框架将加州——几乎所有主要前沿人工智能实验室的所在地——定位为事实上的国家监管机构。 OpenAI、Anthropic 和 Google DeepMind 等公司都在该州开发前沿模型，并将接受该州的验证和审计制度。
加州更广泛的人工智能框架
周五的命令建立在州长办公室所称的美国最强大的人工智能监管框架的基础上。纽瑟姆早在 2023 年就发布了全国首个关于生成人工智能的行政命令，据州长办公室称，该州现在的法律几乎涉及人工智能政策的每个主要领域——前沿模型安全、独立监督、儿童和同伴聊天机器人、隐私、深度伪造、欺诈、网络安全和政府部署。 2025年，纽瑟姆签署了SB 53，即《前沿人工智能透明度法案》——美国第一部人工智能安全法——要求前沿开发者公开披露安全框架，向国家报告重大安全事件，并保护提出严重风险的举报人。
今年的新增内容——SB 813 和 AB 1405——提供了执行力量：经过认证的第三方组织可以独立评估前沿系统，以及专业注册机构可以让审计师遵守独立标准。
接下来发生的是两个月的时钟。当专家小组报告回来时，加州可能成为第一个要求前沿人工智能公司接受外部编写的安全计划并在其最强大的模型中建立紧急关闭机制的州。对于一个仍在争论自己的工作有多少应该交给人工智能以及如何控制它创建的代理的行业来说，这个最后期限变得非常现实。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
