在 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 发表文章《我们必须在前沿步伐》（We Must Pace the Frontier），呼吁各国政府放慢人工智能竞赛的几小时后，黑客新闻上的尖锐回应开始攀升，最终成为当天投票率最高的故事之一。作家兼开发者雅各布·戈尔德（Jacob Gold）在一封公开信中阐述了其论点，其理由简单得令人放心：如果阿莫迪真诚地希望减缓人工智能的发展速度，那么他可以要求制定一项法律来真正做到这一点——而且没有其他实验室高管可以提出这样的法律。要求公司向公众提供的每个人工智能模型都作为开放权重发布。
“我相信你是真诚的，”信开头直接对阿莫代说，“所以我要求你呼吁制定一项不同的法律，一项实际上会减缓事情进展的法律，尽管这需要你做出真正的牺牲。”这封信之所以触动神经，正是因为它涉及了阿莫迪观点的最强烈版本，而不是驳回它——而且因为它涉及当今人工智能领域最重要的政策辩论，我们每天都会在人工智能政策报道中关注这一辩论。
Amodei 提出了什么，以及为什么 Gold 说它行不通
Amodei 的文章承诺 Anthropic 将嵌入第三方评估人员，并要求政府要求所有其他前沿公司遵守这一承诺。据 Politico 报道，萨姆·奥尔特曼 (Sam Altman) 在几小时内就同意了——“我同意达里奥 (Dario) 的观点，我们需要在前沿领域保持步伐”，据 Politico 报道，OpenAI 也符合评估者的承诺。从表面上看，这是前所未有的联盟：世界上两个最有价值的人工智能实验室的负责人公开要求放慢脚步。
戈尔德在信中指出，正是这种共识应该让观察人士产生怀疑。 “你所要求的每一项规定都以捕获告终，”它警告说。嵌入式评估器、计算阈值、与反垄断豁免的行业协调——“所有这些都是在当前前沿实验室的帮助下编写的，因为没有其他人足够了解技术细节来编写它。”一旦这些规则成为法律，每一次事件都会增加一条规则，并且不会被删除，巨头们可以负担得起合规团队的费用，将较小的挑战者拒之门外。信中告诉阿莫代：“它不会让你放慢脚步，而是保护你的地位和利润。”
开放权重反提案
另类的金色草图是故意生硬的。公司向公众提供的任何人工智能模型都必须公布其权重。内部和研究模型将保持不变，政府将保留对未发布系统的访问权——但 Anthropic 必须在其下一个前沿模型发布当天公布其权重，OpenAI 也必须这样做。 “其中没有什么可玩弄或躲避的，”信中总结道，“即使对你来说也是如此。”
该机制是财务性的而非官僚性的。正如戈尔德所解释的那样，前沿模型开发的资金取决于假设权重仍然是专有的估值。一项授权推翻了这一假设：如果每次公开发布都是开放的，那么竞争优势就会流向训练最佳模型的人，而不是出售模型访问权的人，私人估值中的溢价就会下降，可用于下一次训练的资金就会减少——“在每个实验室同时进行，监管机构没有做出任何决定。”实际上，这是一个论点，即市场对封闭模型的期望是竞赛的引擎，而消除期望就消除了引擎。
为什么是阿莫代？
这封信解释了为什么阿莫迪是能够提出这一提议的人，这是建立在他的记录的基础上的，而且这封信非常尊重。 Gold 称赞他在 2020 年底离开 OpenAI，“当安全的职业变动是留下来时”创立了 Anthropic，多年来一直主张对自己的行业进行监管，并推行出口管制，从而缩小了自己的市场。他指出，Anthropic 将自己构建为一家公益公司，其法律使命是“为了人类的长期利益而负责任地开发和维护先进的人工智能”，这将使其领导层能够承受此类法律可能带来的财务打击。戈尔德指出，阿莫代在自己的文章中表示，人类倡导监管，“即使这让我们被指责为炒作、‘末日论’或监管捕获。”
怀疑论者会注意到明显的反驳，而这封信并没有完全回答他们：开放权重更容易被滥用，进展也更困难，开放权重授权将面临每个实验室投资者的强烈反对，而对阿莫迪早期关于中国开放模型立场的批评者将在提案中听到旧争执的回响。但这封信的核心挑战并不取决于其政策的采纳。这取决于它明确指出的紧张局势：一个要求政府放慢其他所有人速度的实验室，而它自己的估值取决于保持领先地位，但尚未要求任何让它付出任何代价的东西。
现在不可避免的争论
阿莫代是否做出回应几乎不是重点。一天之内，前沿实验室就从能力竞争转变为就节奏的必要性达成一致，公众的反应也从询问人工智能是否危险转变为询问人们的警告是否可信。戈尔德的信——几百字的政策细节围绕着一个令人不安的问题——已经成为这种怀疑主义最尖锐的表达，它的病毒式传播表明，这场节奏激烈的辩论不仅会在华盛顿，而且会在公开场合，在黑客新闻等平台上进行，多年来，开放权重社区多年来一直在对这一论点进行各种变体。
保持人工智能领先地位
监管、开放权重以及人工智能速度之争——都没有大肆宣传。
阅读更多人工智能新闻 →
