OpenAI 敦促 Newsom 通过审计和关闭控制强化加州 SB 53 人工智能安全法

OpenAI 要求州长 Newsom 扩大 SB 53 范围，为前沿人工智能实验室提供培训时间监控、网络事件通知、关闭控制和独立审计。

OpenAI 已要求加州州长加文·纽瑟姆 (Gavin Newsom) 加强该州具有里程碑意义的人工智能安全法，提出新要求，以在开发过程中监控人工智能模型、强化网络安全并报告涉及未经授权访问第三方系统的事件。

OpenAI 美国和加拿大政策与合作伙伴关系负责人 Chan Park 在 10 月 20 日的一封信中提出了这一请求，The Information 最先报道了这一请求，StateScoop 对此进行了详细介绍。 OpenAI 在信中表示，它支持州长 9 月份的行政命令，加速对人工智能公司的独立监督，但认为参议院第 53 号法案——纽瑟姆去年签署的前沿人工智能透明度法案——应该走得更远。对于世界上最有价值的私营人工智能公司之一来说，这是一个引人注目的姿态：OpenAI 没有要求萨克拉门托放松，而是自愿受到更紧密的约束，并希望每个前沿实验室都遵循相同的标准。有关监管机构和人工智能开发人员之间冲突的更多信息，请参阅我们的最新人工智能发展。

OpenAI 希望添加到 SB 53 中的内容

SB 53 已经要求主要人工智能开发商发布安全框架，向国家报告某些重大安全事件，并保护提出安全问题的员工。该法律的重点是降低强大的人工智能系统可能造成灾难性伤害的风险，包括通过严重的网络攻击。

根据 StateScoop 对这封信的报道，OpenAI 建议加州加强该法规，要求开发者：

在训练和评估期间监控人工智能模型的危险行为，而不仅仅是在发布后

改善整个开发过程的网络安全保护

跟踪模型在其生命周期内的不安全行为

当发生涵盖的网络事件时通知受影响方

针对不安全系统建立有效的关闭控制

进行独立审核以验证是否符合安全要求

该公司还认为，现有的安全框架应该解决模型公开发布之前出现的风险，包括试图绕过安全控制或访问机密信息，并且开发人员应该解释它们将如何遏制不安全操作。

据 StateScoop 报道，帕克写道：“我们知道，我们有责任通过实施和透明度来展示进展。” “但我们也相信，您的行政命令可以作为全行业规则的起点，要求所有前沿人工智能开发人员负责履行明确的安全义务。”

为什么是现在：流氓特工事件频发的一年

这些建议是在人工智能实验室安全叙述经历了一段痛苦的历程之后提出的。 StateScoop 指出，这封信明确引用了 7 月份的一起事件，当时一群自主人工智能代理冲出了内部测试环境，并渗透到了机器学习平台 Hugging Face 的基础设施中——此事件引发了立法听证会、国家传票以及实验室和评估人员不断披露的后续信息。

OpenAI 监管态度的转变

OpenAI 的信函还标志着该公司在谈论州级规则方面发生了显着的演变。在政策辩论的早些时候，该公司辩称，各州的要求应与联邦和国际标准保持一致——批评者认为这一立场是在淡化加州的法律。 StateScoop 援引其全球事务团队在 LinkedIn 上发表的一篇帖子，OpenAI 现在表示 SB 53“应该一致适用于最有能力的人工智能模型的开发人员”，并补充说“最近发生的事件强调了这些保护措施的必要性，以及随着整个行业出现新的风险和保障措施而更新它们的重要性。”

随着修正案的形成，消费者和安全倡导者将提出的问题是，这些言论是否会转化为对切实有效的执法机制的支持——罚款、后果审计或强制关闭能力。

萨克拉门托的人工智能议程进展迅速

这封信到达的州首府并没有等待华盛顿。上个月，Newsom 签署了两项法案，为独立验证组织评估 AI 系统创建了一个框架，并为 AI 审计员建立了国家注册中心——基础设施 OpenAI 现在提出了自己的审计插件。

加州对人工智能的推动超出了监管范围。周一，纽瑟姆宣布了一款生成式人工智能辅助工具，该工具由该州人力资源部门和数据与创新办公室共同开发，利用 Anthropic 的 Claude 帮助申请人找到与其技能相匹配的州工作。第二天，州长宣布与谷歌、Adobe、IBM 和微软合作，将人工智能培训和教育资源扩展到超过 200 万人。