白宫正在探索建立一个独立监管机构，致力于监管人工智能安全的计划，此举可能会重塑联邦政府监管 OpenAI 和 Anthropic 等公司的前沿人工智能模型的方式。该提案首先由彭博新闻社报道，此前硅谷对政府最近对新的 AI 系统实施有时难以预测的限制提出了越来越多的抱怨。
FINRA 人工智能
据接受彭博社采访的知情人士透露，白宫办公厅主任苏西·怀尔斯目前正在审查该计划。它将建立一个专门关注人工智能的独立监管机构，向美国证券交易委员会报告，其结构模仿金融业监管局（FINRA）。
FINRA 是一个自律组织，负责监管美国的经纪公司和交易市场。将该模型转化为人工智能意味着创建一个有权制定标准、进行检查并强制开发先进模型的公司合规的实体。据彭博社消息人士透露，其目标是为监管流程带来一致性和可预测性，而这一监管流程令科技公司和华尔街公司都感到沮丧。
该提议是在联邦政府与人工智能行业之间异常紧张的时刻提出的。上个月，政府对 Anthropic 实施了出口管制，迫使该公司暂时禁用其《神鬼寓言 5》和《神话 5》型号。另外，应政府要求，OpenAI 被迫在发布其最新的 Sol 模型之前对其进行重大更改。两家公司都对这些决定提出抗议，认为考虑到安全问题，这些决定太过分了。
为什么要推动结构化监督
白宫对专门的人工智能监管机构的兴趣反映出人们越来越认识到当前的临时监管方法是不可持续的。在现有框架下，政府结合使用行政命令、出口管制和自愿协议来影响人工智能公司发布其最强大模型的方式和时间。但这种拼凑的做法招致了来自多方面的批评。
科技公司认为，不一致的监管使得规划产品路线图变得困难，因为规则可能会突然改变，而且没有明确的程序标准。与此同时，华尔街公司敦促政府对人工智能驱动的网络安全风险采取更有力的行动，并警告说，未经检查的模型功能可能会对金融基础设施造成复杂的攻击。
彭博社的消息人士称，该提案旨在解决这两个问题，为人工智能开发人员提供更多确定性，同时建立评估和降低风险的正式机制。通过创建类似 FINRA 的实体，政府希望从被动干预转向具有明确流程和问责制的主动监管制度。
哈萨比斯呼吁制定标准的回声
就在白宫进行审议的几天前，谷歌 DeepMind 首席执行官德米斯·哈萨比斯 (Demis Hassabis) 公开呼吁美国领导的标准机构在先进的人工智能模型发布前对其进行独立测试，以应对国家安全威胁。在英国《金融时报》报道的言论中，哈萨比斯警告说，能够在广泛的任务中与人类大脑相匹配的通用人工智能可能只需要短短几年的时间，这将为社会建立一个宝贵的监督窗口。
哈萨比斯特别提议根据 FINRA 对该组织进行建模，白宫内部正在考虑采用相同的框架。他表示，随着各国政府面临人工智能系统能力日益增强带来的风险，美国发起的系统可能成为国际标准的基础。
哈萨比斯的提议与白宫内部审议之间的趋同表明，尽管范围、权限和执行的细节仍有待谈判，但围绕 FINRA 模式的共识正在不断增长。
现有售前监督
政府已经采取措施进行售前监督。 6 月发布的一项行政命令寻求在发布前 30 天内自愿访问所涵盖的前沿模型，从而允许联邦官员评估先进的网络能力。谷歌 DeepMind、微软和 xAI 都同意在该框架下提交模型进行联邦国家安全测试。
然而，这些措施仍然是自愿的，而且范围有限。专门的监管机构将拥有更广泛的权力来强制透明度、强制安全测试和强制合规，从根本上改变人工智能公司与联邦政府之间的关系。
接下来会发生什么
该提案仍处于早期阶段，不能保证它会以目前的形式推进。创建新的监管实体需要国会采取行动，而围绕人工智能监管的政治动态仍然不稳定。立法者已就人工智能安全问题举行了多次听证会，但尚未通过全面的立法。
尽管如此，白宫正在积极权衡金融业监管局（FINRA）式的监管机构，这一事实标志着其野心的转变。政府似乎正在探索一种更持久的人工智能监督制度框架，而不是依赖行政命令和个案干预，该框架可以比任何单一政府更持久，并提供行业领导者一直要求的一致性。
对于人工智能公司来说，专门监管机构的前景是一把双刃剑。它可以带来他们所要求的可预测性，但也可能带来新的合规负担、报告要求以及将产品推向市场的延迟。如何平衡这些权衡将塑造未来几年人工智能行业的竞争格局。
保持人工智能领先地位
如需持续报道人工智能监管、政府政策和塑造行业的监督框架，请关注 AI Buzz Wire 报道重要决策。
阅读更多人工智能政策新闻 →
