谷歌 DeepMind 的 Demis Hassabis 呼吁以美国为首的全球机构测试前沿人工智能模型

DeepMind 首席执行官 Demis Hassabis 提议成立一个由美国主导的独立标准机构，在发布前评估前沿人工智能模型，警告通用人工智能可能在几年内到来，并敦促立即采取保障措施。

谷歌 DeepMind 首席执行官德米斯·哈萨比斯 (Demis Hassabis) 呼吁创建一个由美国主导的独立标准机构，在前沿人工智能模型走向公众之前对其进行评估和监管，并警告说，通用人工智能可能只需几年时间就会出现。在 2026 年 7 月 14 日发布的 LinkedIn 帖子中，Hassabis 制定了一个全面的治理框架，要求开发最先进人工智能系统的公司将其提交进行预发布审查，Axios 的独家报告对此进行了详细介绍。该提案为全球日益激烈的关于如何管理人工智能能力的争论增添了一个突出的行业声音，这些人工智能能力的发展速度快于旨在管理它们的法规。对于最新的人工智能行业报道，该计划是迄今为止最详细的行业支持的治理蓝图之一。

哈萨比斯写道，鉴于前沿人工智能在网络安全等领域带来的潜在挑战，需要采取紧急行动。他说，未来，社会将需要强有力的保障措施来维持对日益代理、不断自我改进的系统的控制，并解决随着时间的推移只会变得更加清晰的未知问题。他强调，世界上没有人知道接下来会发生什么，谨慎乐观意味着现在就建立护栏，而不是等待问题出现。

拟议框架如何运作

哈萨比斯提案的核心是建立一个标准机构，其形式可以是联邦监督的公私合作伙伴关系，也可以是自律组织。该机构将由独立的领先技术专家和开源代表组成，资金来自人工智能行业本身而不是纳税人。哈萨比斯建议，鉴于美国专注于前沿人工智能开发，美国应该在全球范围内引领这一努力。

标准机构将负责制定评估协议，并将与适当的联邦机构和美国国家实验室合作，在与国家安全相关的领域进行测试。如果模型满足由机构确定的一组基准的特定阈值，并定期更新以跟上不断发展的人工智能功能的步伐，则该模型将有资格成为前沿级模型。这种基于阈值的方法旨在确保只有最强大的模型受到最严格的监督，而不是对所有人工智能开发施加统一的负担。

开发前沿级模型的公司将被指定为前沿实验室，并被要求履行特定义务。其中包括发布包含技术细节的模型卡、维护强大的内部网络安全实践以及审查关键人员。至关重要的是，Frontier Labs 需要在公开发布前 30 天自愿与标准机构共享其模型以供审查，并且只有满足评估协议要求的模型才会被批准部署。

哈萨比斯还指出，该框架可以适用于前沿级模型，无论其原产国如何，无论它们是开源还是闭源，这是解决人工智能开发的全球性并防止监管套利的尝试。

与金融监管的比较

哈萨比斯设想的结构与其他行业现有的自律框架进行了直接比较。 Quartz 和其他媒体指出，这与美国金融业监管局 (FINRA) 的相似之处，后者作为在美国证券交易委员会监督下运作的非政府机构，负责监管美国的经纪交易商。这个想法是，人工智能行业就像金融行业一样，可以由一个由其自己的参与者资助但在联邦监督下运作的组织来监管。

TechCrunch 报道称，哈萨比斯将该提案视为不受限制的发展和严厉的政府授权之间的一条务实的中间道路。通过将技术专业知识置于评估过程的中心，并通过行业贡献为该机构提供资金，该模型的目标是既可靠又灵活，以跟上每月发展的技术步伐。

为什么现在很重要

哈萨比斯警告称，通用人工智能可能会在几年内到来，这一警告来自世界上最受尊敬的人工智能研究人员之一，这一警告意义重大。这位诺贝尔奖得主多次警告说，人工智能能力与治理之间的差距正在扩大。他的提议提出之际，世界各国政府都在争先恐后地建立人工智能监督框架，方法也各不相同。欧盟已经实施了人工智能法案，而美国则采取了一条更加分散的道路，将行政行动与自愿行业承诺相结合。

地缘政治因素是不可避免的。正如 Neowin 和其他媒体观察到的那样，如果拟议的机构由美国领导并主要由美国行业领袖组成，那么中国等国家可能不会认为自己受到其标准的约束。前沿人工智能开发现在是一场全球竞争，排除主要参与者的治理框架可能会变得空洞而不是可执行。哈萨比斯呼吁无论原籍国如何都适用该框架，这就是对这一挑战的承认，尽管它留下了如何确保国际合规的问题。

该提案提出之际，人们越来越担心可以采取自主行动的代理人工智能系统的风险。哈萨比斯对递归自我改进系统的提及涉及人工智能安全研究中最具争议的场景之一，其中模型能够以人类可能难以监视或控制的方式迭代地改进自身。