根据向国会提交的机密估计,国家安全局今年将花费数十亿美元测试先进的人工智能模型,其中计算能力占据了大部分费用。
《华盛顿太阳报》报道了这些数字,并援引了两位熟悉机密估计的消息来源。这一披露加剧了国会山的一场争论,争论的焦点是谁应该为日益强大的人工智能系统的监督付费,以及政府严格审查的成本到底有多大。
有关人工智能监督和监管的持续报道,请参阅最新的 人工智能政策新闻。
计算是最大的成本
据《华盛顿太阳报》援引的一位消息人士称,计算能力是美国国家安全局人工智能测试业务中最大的一项支出。人员成本增加了总成本,因为该机构必须与前沿人工智能实验室提供的薪酬方案竞争,以吸引少数能够评估尖端模型的专家。
所涉及的金额引起了人们的关注,因为早期公众对政府人工智能监管的估计要低得多。国会预算办公室将建立人工智能风险中心的两党法案的成本定为每年约 2000 万美元。消息人士称,立法者现在预计,全面的人工智能监管每年可能花费数百亿美元。
为什么测试前沿模型成本如此之高
人工智能测试的经济学反映了大规模使用人工智能的经济学。消费者对人工智能产品的订阅得到了大量补贴:分析公司 SemiAnalysis 估计,按 API 标价计算,每月最高 200 美元的 ChatGPT Pro 订阅价值高达 14,000 美元,而 Anthropic 类似定价的 Claude Max 计划价值高达约 8,000 美元。
相比之下,企业和政府客户支付的费用更接近实际成本。 OpenAI 已将新的企业合同转向基于代币的计费,根据 SemiAnalysis 的数据,Anthropic 估计 75% 至 85% 的收入来自基于使用情况的合同。代理工作流程——正是安全测试人员最需要探测的那种自主行为——可以消耗比标准聊天对话多一千倍的令牌。
提供商正在尝试各种方法来降低大客户的这些成本。据 The Information 报道,OpenAI 现在允许一些大客户只为已完成的任务而不是原始代币付费,并推出了 GPT-6 Sol 和 Luna,这两种模型的价格仅为通常 API 费率的一半。但这些折扣并不适用于最强大的前沿系统,这些系统的运行成本仍然是最高的,而且提供商越来越多地将其最强大的模型置于封闭的网络安全计划后面,这为任何外部评估者增加了另一层成本和复杂性。
支出压力是双向的。据英国《金融时报》报道,OpenAI 计划到 2030 年在计算能力上花费约 8560 亿美元,而 Anthropic 正在准备最迟于 11 月进行 IPO。 SemiAnalysis 估计 Anthropic 的 API 业务的毛利率超过 80%——这些利润有助于为 NSA 目前试图独立评估的前沿开发竞赛提供资金。
谁为监督买单?
资金问题已经分裂成相互竞争的提案。人工智能验证与评估研究所的 Nat Purser 提议对人工智能开发者征税,这将有助于资助独立的政府测试——这种方法将正式确定行业已经自愿做的事情。
值得注意的是,《华盛顿太阳报》报道称,Anthropic 和 OpenAI 已表示他们可能愿意为扩大政府监管付费。这一立场符合两家公司对第三方安全评估的公众支持,并将在整个行业分摊成本,而不是将其集中在联邦预算中。
更广泛的监督格局
美国国家安全局的支出披露正值美国政府评估人工智能系统的方式进行更广泛的重组。该机构此前曾主张对商业模型进行自愿测试,随着前沿系统获得监管机构难以独立评估的网络和生物能力,国家安全机构在人工智能政策中变得越来越重要。
这个价格标签还说明了政策制定者的一个令人不安的现实:有意义的监督成本与被审查系统的成本成正比。为每年 2000 万美元的审查制定的预算对于训练和评估运行各花费数亿美元的模型来说是不够的。
当国会考虑重新授权人工智能监督计划时,机密估算为立法者提供了一个具体且发人深省的数据点,说明认真评估的实际成本。
保持人工智能领先地位
政府在人工智能监管方面的支出将成为来年决定性的政策斗争之一。如需了解更多 重大 AI 新闻,从监管到前沿模型发布,请关注 AI Buzz Wire。
阅读更多人工智能新闻 →