谷歌 DeepMind 成立了一个新的研究所，致力于扩大通用人工智能的讨论范围，其首篇论文包括 Demis Hassabis 提出的一项具体提案，该提案旨在建立一个由美国领导的机构，在部署前评估前沿人工智能模型。
据 TechCrunch 报道，周三由谷歌和谷歌 DeepMind 研究人员成立的 DeepMind 研究所将 DeepMind 联合创始人 Shane Legg 列为总编辑，谷歌高管 James Manyika 和 Google DeepMind 主席 Demis Hassabis 担任董事。 更多相关背景，请参阅我们的AI新闻。
不同意见的余地
该研究所宣称的目的是揭露真正的分歧——包括谷歌内部的分歧。公告中写道：“他们不会总是同意，而且随着更多数据和信息在快速发展的前沿领域曝光，他们可能会改变主意。”
它的第一个合集包括四篇文章，涵盖管理潜在 AGI 颠覆的经济政策、保留人类可读的模型推理、人类繁荣的原则以及评估前沿人工智能模型的框架。
对于企业人工智能实验室来说，将公开的分歧制度化是一个不寻常的举动，因为公共信息往往受到严格控制。按照设计，该研究所为谷歌的研究人员提供了一个场所，可以就可能与公司商业利益或彼此商业利益发生冲突的立场进行辩论。
透明度文章：观察“不透明的连续剧深度”
DeepMind 安全研究人员 Rohin Shah 和 Anca Dragan 撰写的四篇文章中的一篇认为，人工智能不断缩小的透明度窗口（查看和检查模型逐步推理的能力）并非不可避免，即使新架构使最强大的模型更难以监控。
作者表示，开发商和监管机构应该直接面对安全权衡。具体来说，这可能意味着限制他们所谓的“不透明串行深度”——模型在不产生可读推理跟踪的情况下可以执行的顺序计算量——或者要求开发人员证明不太透明的系统仍然与可解释的系统一样可监控。
该提案值得注意，因为它将可解释性的丧失视为一种设计和政策选择，而不是规模不可避免的后果，从而为可以写入监管的要求打开了大门。
哈萨比斯的提案：美国前沿标准机构
最重要的文章可能是哈萨比斯的文章。他提议成立一个由美国领导的前沿人工智能标准机构，负责评估最先进的人工智能模型。在该框架下，开发人员最初将在发布前 30 天内自愿提交模型以供审核。一旦评估系统被证明有效，通过测试可能成为在美国部署前沿模型的要求。
该机构将首先与人工智能公司协商设计评估，但最终将开发独立的、未公开的评估——文章中称之为“保留”测试——以防止实验室根据已知的基准调整模型，这是公共评估制度的一种有据可查的失败模式。
哈萨比斯还为升级敞开了大门：“如果情况严重需要，该框架可能会逐步升级”，其中可能包括前沿人工智能开发人员之间的协调放缓。
为什么其他两篇文章很重要
剩下的两篇文章——关于管理 AGI 破坏的经济政策和人类繁荣的原则——构成了一本将 AGI 视为全社会问题而不是纯粹技术问题的文章集。长期以来，经济转移一直是公众对先进人工智能最切实的担忧，将其与评估政策和可解释性结合起来表明该研究所希望政策制定者将这些问题视为一个议程，而不是单独的辩论。
这种广度也是谷歌定位的一个信号。该公司正在争夺企业客户和政府合同，同时主张前沿系统需要外部审查。该研究所的核心前提是公开而不是缓和紧张局势。
从担忧到具体建议
这些文章的出现之际，该行业的安全争论从广泛的担忧转向具体的机制：披露要求、外部审查，以及（如果保障措施落后）协调放缓。据 TechCrunch 报道，随着行业领导者认可 Anthropic 首席执行官 Dario Amodei 呼吁“加快”前沿人工智能开发的内容，这种转变在本周加速。
时机很重要。大西洋两岸的政府正在考虑如何监督那些能力发展速度快于评估基础设施的系统。一项来自领先人工智能实验室的提案——其中包括发布前的严格审查——为政策制定者提供了一个业界本身名义上认可的模板，这在历史上一直是有意义的人工智能监管的先决条件。
看什么
该研究所的编辑独立于谷歌将是第一个考验。如果这些文章继续包含违背谷歌商业路线图的立场（正如透明度文章可以说的那样），该场所可能会成为 AGI 政策辩论的重要贡献者。如果它转向企业信息传递，它将成为拥挤领域中又一个公关渠道。
不管怎样，实质内容现在已经摆在桌面上：人工智能领域最有权势的人物之一正在公开主张预发布评估要求、搁置测试，甚至协调性放缓。问题不再是是否应该独立评估前沿模型，而是由谁进行评估以及在什么时间表上进行评估。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
