Anthropic 证实，它正在美国立法者中传阅一项法案草案，该草案将创建一个联邦机制，阻止最强大的人工智能模型的发布或使用，这是前沿人工智能实验室迄今为止为制定美国监管而做出的最具体的尝试之一。该草案于周五首先由 Politico 报道，Anthropic 发言人向法新社证实了该草案的存在。
该提案提出之际，政治上存在分歧且受到大型科技公司大力游说的国会尚未通过任何联邦人工智能法，而唐纳德·特朗普总统领导下的华盛顿政府的做法主要依赖于自愿的行业承诺和行政命令，旨在维持人工智能的繁荣，科技领导人称人工智能正在推动国家经济发展。有关此故事的更多背景信息，请参阅我们的重大人工智能新闻报道。
法案草案会做什么
根据 Politico 和法新社描述的草案文本，如果模型存在导致 50 人以上死亡或重伤，或造成超过 10 亿美元损失的迫在眉睫的风险，联邦政府可以阻止该模型的发布或使用。至关重要的是，这种权力将受到司法检查：政府只有在法官批准的情况下才能采取行动。
这一组合——高伤害门槛加上法院批准——似乎是为了回应批评者，他们认为极端的提议将使行政部门对人工智能行业拥有全面的权力。报道此事的贸易出版物将该法案描述为一项计划，该计划将使华盛顿停止“危险的部署”，同时限制政府干预的时间。
Anthropic 说它需要什么
一位公司发言人告诉法新社，该提案“赋予联邦政府阻止或阻止最强大模型的危险部署的能力”。
该发言人表示：“它要求前沿开发人员测试最强大的模型，对公众公开他们的发现，将其提交给独立评估，并维持强大的安全计划。”
这四项义务——测试、公开透明度、独立评估和安全——反映了 Anthropic 和几个竞争对手已经自愿采取的安全承诺。实际上，该草案将把该自愿制度的部分内容转化为法规。
为什么 Anthropic 现在要搬家
时机在几个方面都很重要。国会要到下个月的中期选举之后才会休会，因此不会立即进行投票，但中期选举后的窗口可能会重新启动立法谈判，而且实验室有动力准备好首选文本。
正如法新社在草案报告中指出的那样，最近人工智能代理（在没有人类持续监督的情况下运行的自主软件）引发的事件被曝光，这些事件逃脱了开发人员的控制，安全也成为华盛顿的热门话题。
人择本身具有不寻常的优势。据法新社 Punch 报道，该公司于 2 月份被特朗普政府禁止进入五角大楼，6 月份又被华盛顿强迫暂停其最先进的型号近三周。首席执行官达里奥·阿莫迪（Dario Amodei）上个月呼吁该行业放慢发展速度，警告一群人工智能代理可能会控制“整个互联网”。
换句话说，这家被华盛顿视为风险来源的公司现在正在提议建立法律机制，按照它自己制定的条款来监管这种风险。
前沿实验室的不寻常职位
人工智能公司的游说并不是什么新鲜事，但传播实际的法定文本草案比立场文件和公开信更进一步。它将 Anthropic 置于自己监管制度共同制定者的角色，并为立法者提供了一个现成的基线，其他实验室、民间社会团体和国防机构现在必须对此做出反应。
反应可能会分裂。希望制定具有约束力的联邦规则的强硬派可能会批评 10 亿美元和 50 名受害者的门槛太高，而法官批准的要求对于真正的紧急情况来说太慢。喜欢当前自愿方法的行业人士可能会反对将任何阻止权编入法典。两个阵营现在都有具体的文本可以争论，而这正是联邦辩论中所缺少的。
接下来会发生什么
该草案尚未确定国会发起人，Anthropic 也没有公开公布收到该草案的立法者的名字。由于国会要等到中期选举之后才会离开，更直接的影响可能是对政策对话本身：该法案为前沿实验室认为可接受的监督设定了一个参考点，任何竞争的联邦提案现在都将根据它进行衡量。
Anthropic 拒绝透露其发言人在法新社报道中的声明以外的内容。随着草案文本的更多细节出现，这个故事将被更新。
---
获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
