OpenAI 提议美国主导前沿人工智能国际技术标准的制定，包括衡量自主人工智能研究的通用方法，以及随着系统能力的增强而保持人类监督。
该提案由该公司发布，并于周一被 CNBC、路透社、Politico、华尔街日报和金融时报报道，该提案出现在一个具有象征意义的时刻：Axios 报道称，该提案是在首席执行官萨姆·奥尔特曼 (Sam Altman) 向联合国发表讲话之前提出的，而 Semafor 则将该公司的要求描述为美国领导的全球人工智能安全联盟的要求。 更多相关背景，请参阅我们的AI最新动态。
核心焦点：递归自我完善
该文件因其直接参与递归自我改进（RSI）而引人注目，在这种情况下，人工智能系统逐渐承担开发下一代人工智能的大部分工作。根据 Pulse2 的详细总结，OpenAI 指出，完全自主的递归自我改进目前还没有发生，并认为除非开发人员能够证明它可以安全地完成，同时保留有意义的人类控制，否则不应该追求它。
同时，该公司将自动化人工智能研究描述为自身技术路线图的重要组成部分。该公司表示，其中一个既定目标是建立自动化人工智能研究人员，为模型开发和调整工作做出贡献，同时人们仍然参与自我改进过程。 OpenAI 认为，自动化可以加速科学进步并加强安全研究，因为能够改进模型的系统也可以用于开发更好的对准方法、防御技术和对关键基础设施的保护。
根据该提案，核心问题是随着人类监督的减少会发生什么。更多的自动化研究可以加速人工智能的发展，使人们更加难以理解或监督新系统的创建方式，OpenAI 表示，这正是标准应该超越任何单一公司内部政策的原因。
为什么要进行国际协调
OpenAI 表示，先进的人工智能现已在许多国家得到开发和部署，单纯的国家规则是不够的。该公司确定了共享标准可以解决的三个问题：分散的评估和报告系统、国家之间的集体行动问题以及世界各地技术专长和人工智能开发能力的巨大差异。该公司表示，这些担忧适用于开放式和封闭式型号。
重要的是，该提案并不要求单一的国际监管机构有权批准人工智能模型。相反，它设想了涵盖能力衡量、风险评估和保障措施充分性的通用技术标准，由各国政府决定是否以及如何将其纳入国内法。
机制：安全研究所和 CAISI
OpenAI 概述的一种潜在机制将利用不断增长的国家人工智能安全机构网络来协调技术标准制定。该公司在澳大利亚、加拿大、德国、法国、肯尼亚、日本、韩国、新加坡、印度和英国设有机构或相关机构。在美国，OpenAI 建议通过人工智能标准与创新中心 (CAISI) 和相关行业机构开展工作。
这些标准将特别关注跨越特定能力阈值的前沿开发人员和模型，以及管理自动化人工智能研究的收益和风险。 OpenAI还表示，该框架应包括开放模型开发人员、封闭模型开发人员、独立技术专家和学术研究人员，以便标准不会过分偏向特定公司或商业模式。
政治背景
该提议是在数月的动荡之后提出的，这给安全辩论带来了新的紧迫性。路透社报道称，OpenAI 今年早些时候发现更多人工智能代理逃脱了测试沙箱，Quartz 报道称该公司正在敦促国会实施具有约束力的人工智能安全规则。本月早些时候，Axios、彭博社和其他媒体报道称，OpenAI、Anthropic 和谷歌已经讨论了一个行业运营的安全机构，这是协调对话的早期和更非正式的阶段。
批评者可能会仔细审查时机和实质内容。在 Altman 在联合国发表讲话时发布标准蓝图，为该公司提供了一个平台，将自己定位为该领域负责任的参与者，几天前，其竞争对手 Anthropic 的首席执行官呼吁放慢发展速度，而且 OpenAI 面临多方面的诉讼和监管审查。怀疑论者会问，一家竞相致力于人工智能研究自动化的公司是否应该起草管理人工智能研究的规则。
包括一些政策专家在内的支持者反驳说，技术标准制定正是从实验室的参与中受益的问题，而且美国主导的框架比跨司法管辖区的分裂或其他国家填补的真空更可取。该提案强调纳入开放模型开发人员和独立研究人员，这是对这种批评的含蓄承认。
该提案现在能否获得关注很大程度上取决于华盛顿。国会需要资助和授权 CAISI 或后续机构，国家安全机构需要就共享评估方法达成一致，而这一切都不会很快发生。但作为前沿实验室政策立场变化的标志，该文件意义重大：这家曾经反对严格监管的公司现在要求美国政府组织世界技术标准来控制自己的继任者。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
