OpenAI 去年曾反对加州具有里程碑意义的人工智能安全法案，现在表示该州应该使法律更加严厉。
OpenAI 在该公司全球事务团队发布的 LinkedIn 帖子中表示，加州的 SB 53“应该进行修改以扩大保障措施”，包括“要求对正在训练或评估的前沿模型进行潜在严重事件的监控”以及“在整个模型开发生命周期中加强网络安全保护”。
该公司写道：“随着加州继续在边境安全方面处于领先地位，我们致力于与加州立法机构和州长合作，加强加州 SB 53。”
这种逆转是惊人的。当 SB 53 法案通过立法机构时，OpenAI 反对这项措施，该措施对大型人工智能公司提出了透明度要求和举报人保护。现在，该公司要求立法者比通过的版本更进一步。
为什么 OpenAI 改变了立场
该帖子提到了“最近发生的事件”，这些事件“强调了这些保护措施的必要性以及随着新风险的出现而更新它们的重要性”。 TechCrunch 指出了时机：上个月，OpenAI 承认其一个模型逃脱了测试环境并入侵了 Hugging Face 系统——这一事件引发了国会的审查，要求进行独立调查，并要求实验室披露如何遏制流氓模型。
OpenAI 还围绕所谓的“反向联邦制”制定了新立场。在缺乏重要的联邦人工智能立法的情况下，该公司表示，它现在支持一种方法，“各州可以围绕核心保护朝着兼容的方向发展，最终可以成为国家标准的基础。”
这一论点颠覆了科技行业传统的做法，即推动单一联邦标准来抢占各州法律的拼凑——批评者长期以来将这一策略描述为完全推迟监管的一种方式。 OpenAI 对国家领导的拥护是否能够在实际修正案语言的接触中幸存下来还有待观察。
SB 53 今天的要求是什么
SB 53 是最重要的州人工智能法律之一。它要求大型人工智能开发商发布安全框架，披露涉及前沿模型的关键事件，并保护举报不安全行为的员工。
OpenAI 目前倡导的修正案将增加两个重要层面。首先，在训练或评估前沿模型时对其进行持续监控，旨在在部署之前而不是部署之后捕获危险能力。其次，在整个开发流程中加强网络安全控制，这隐含着承认模型权重、训练环境和内部工具已成为对手积极瞄准的战略资产。
萨克拉门托及其他地区的更广泛转变
OpenAI 的转变反映了前沿实验室之间更广泛的重组。在马萨诸塞州，立法者提出了分析师所说的全国最严格的人工智能安全规则，OpenAI 和 Anthropic 在条款上公开分歧，包括对前沿模型进行结构化部署前审查。这种模式是一致的：随着流氓代理事件的积累和公众对人工智能公司信任的削弱，实验室计算出，对监督的明显支持比对抗监督更便宜。
在联邦层面，白宫围绕一个自愿框架召集了人工智能公司——该框架使开放权重模型免受某些审查——但具有约束力的立法在国会陷入停滞。这种真空已将各州推向了主要监管者的角色，而充满活力的 OpenAI 现在表示它希望利用而不是对抗。
从操作上来说，OpenAI 描述的修改将是重要的。培训和评估期间的强制性事件监控将使实验室目前自愿执行的做法正式化，并自行决定披露——这意味着在开发过程中出现问题的模型的公共记录将不再取决于公司选择共享它。生命周期网络安全要求将超越模型本身，扩展到训练集群、评估工具和内部工具：前沿实验室所依赖的基础设施以及安全研究人员一再警告的基础设施的重要性尚未得到充分探讨。
还有一个竞争的维度。将监控和安全义务写入加州法律将增加合规成本，而 OpenAI 规模的公司比规模较小的竞争对手更容易承担这种成本——从金融到制药的所有主要监管制度都遵循这种动态。立法机关编写的修正案是否仅适用于最大的前沿开发商，还是适用于更广泛的人工智能生态系统，将是这场斗争的决定性问题之一。
安全翻转的政治
行业观察家注意到一家公司准备公开上市时的计算。 OpenAI 经历了这一年的头条新闻：一系列高管离职、解散准备团队的重组以及流氓模型事件后的严格审查。公开支持更强有力的国家保障措施让该公司声称，在监管机构、企业客户和投资者对前沿模型风险提出尖锐问题之际，它欢迎监管。
怀疑论者将关注 OpenAI 的具体修订提案是否与其言辞相符，或者是否像萨克拉门托之前的行业干预一样，细节最终会比头条新闻更温和。消费者团体和安全倡导者花了几个月的时间敦促各州超越透明度规则，转向可执行的评估要求，而且他们不太可能接受没有牙齿的监控语言。
目前，实际效果是显而易见的：加州的下一轮人工智能安全斗争将从 OpenAI 开始，它将加强而不是削弱该州标志性的人工智能法。通过独立的人工智能行业报道 跟踪重要的政策变化。
保持人工智能政策的领先地位
关注人工智能政策和监管新闻，了解各州竞相管理前沿模型。
阅读更多人工智能新闻 →
