马萨诸塞州立法者正在着手为人工智能制定全美最严格的州级保障措施，该提案已导致该行业两个领先的实验室产生分歧：Anthropic 正在支持这些规则，而 OpenAI 正在游说反对它们。
该措施包含在州参议院上个月通过的经济发展法案中，要求领先的人工智能实验室至少每 120 天提交一次前沿模型，接受灾难性风险的独立审查，这对美国各州来说尚属首次。调查结果将被公开，尽管国家不能利用它们来阻止开发。目前，有关该法案最终文本的争论正在灯塔山闭门进行，这是对美国各州在治安边境模式方面能走多远的一次决定性考验。如需定期报告政府如何应对该技术，请关注我们的 人工智能政策报道。
马萨诸塞州提案的要求
该法案的核心条款是对前沿人工智能系统的危险进行定期、独立的检查。据彭博社周三发布的一份报告称，外部组织将有权评估模型发生灾难的可能性——灾难的定义是造成至少 50 人死亡或重伤或造成 10 亿美元或更多财产损失的事件——独立于开发者自己的安全指南。
该州还将进行年度合规审查，类似于伊利诺伊州已经要求的那样。但反复进行的评估远远超出了加利福尼亚州、纽约州和伊利诺伊州采用的法律范围，并且将使马萨诸塞州成为第一个将边境模型纳入固定的 120 天第三方检查时钟的州。
Anthropic：行业不应该给自己的作业评分
Anthropic 主张在没有联邦标准的情况下对各州人工智能进行更严格的监管，它接受了马萨诸塞州的提案，称其为“美国最明确、最强有力的人工智能立法”。
“我们最终认为该行业不应该给自己的作业评分，”该公司美国州和地方政府关系负责人塞萨尔·费尔南德斯 (Cesar Fernandez) 告诉彭博社。费尔南德斯补充说，随着技术的进步，各州可能需要采取更严格的监管——这是一个人工智能实验室主张对自己的产品进行更多监管的引人注目的立场。
OpenAI 警告评论将会适得其反
据彭博社报道，OpenAI 警告马萨诸塞州立法者，频繁的强制审查将减缓网络安全模型的发布，而网络安全模型可以防范立法者所担心的风险。该公司更喜欢以伊利诺伊州法律为蓝本的统一州标准，该标准要求每年仅进行一次第三方审计，并重点关注实验室是否遵循自己的安全准则并进行必要的披露。
OpenAI 美国国家政策和合作伙伴关系主管唐尼·福勒 (Donnie Fowler) 表示，国家政权之间的不一致“并不意味着更安全。这只是意味着混乱”。
福勒将伊利诺伊州的年度审计比作例行的汽车检查——确保刹车灯和挡风玻璃雨刷正常工作——同时将马萨诸塞州提出的评估比作每隔几个月拆卸发动机并重新组装起来。
十一月大选前的游说冲刺
两家公司目前正在竞相制定最终文本。据彭博社报道，Anthropic 今年早些时候聘请了波士顿游说公司 Tremont Strategies Group，而 OpenAI 最近几周则聘请了当地公司 Benchmark Strategies。
更广泛的经济发展法案被认为可能在 11 月大选前获得通过，因为它还包含为立法者选区的项目提供资金。由众议院和参议院谈判代表组成的六人小组正在敲定细节，包括人工智能规则。
谈判代表之一、州参议员巴里·芬戈尔德表示，需要进行独立评估，以确保边境模型不会造成重大损害，并预测如果马萨诸塞州采取行动，其他州也会效仿。 “我们在社交媒体上落后了。我们在没有设置护栏的情况下允许太多的事情过去，现在我们正在追赶，”费内戈德告诉彭博社。 “我们不想再这样做了。”
各州陷入联邦真空
马萨诸塞州的推动之际，人工智能安全变得更加紧迫。据彭博社报道，在过去的一个月里，OpenAI、Anthropic 和 Meta Platforms 均报告了其模型在测试环境中无意中侵入第三方系统的情况。
联邦监督仍然有限：唐纳德·特朗普总统基本上采取了不干涉的态度，而超越州法律的两党人工智能安全立法在国会陷入停滞。各州现在正在填补这一空白，尽管它们相互竞争，希望在人工智能热潮中分得一杯羹，推动美国经济增长的巨大份额。
马萨诸塞州本身也在积极吸引该行业。今年 2 月，该州宣布与 OpenAI 建立合作伙伴关系，并成为第一个允许其整个行政部门使用 ChatGPT 支持的助手的州。根据公共记录请求获得的电子邮件，今年春天，州长莫拉·希利 (Maura Healey) 和她的经济发展部长、前风险投资家埃里克·佩利 (Eric Paley) 与 Anthropic 总裁丹妮拉·阿莫迪 (Daniela Amodei) 讨论了该公司扩大马萨诸塞州业务以及在网络安全和劳动力发展方面开展合作的事宜。
在一条消息中，佩利告诉 Anthropic，“我们都需要分享更清晰的例子，说明人工智能如何增强人性，并为打击所有恐惧传播提供积极的灵感”，并提出将该公司与州立法者联系起来，讨论监管合作。
11 月份竞选连任的民主党人希利并未将人工智能保障措施纳入她最初的经济发展提案中。她和众议院仍然必须同意该条款，她的政府表示将与立法者合作，在今年秋天完成该立法。
保持人工智能政策领先
美国、欧洲和亚洲的前沿模型监管正在加速，细节将决定谁建造、谁运输和谁付款。在 AI Buzz Wire 获取有关每项重大发展的简明、来源报告。
阅读更多人工智能新闻 →
