据 PYMNTS 报道，OpenAI 在 9 月 22 日星期二发布的博客文章中表示，该公司正在与多个独立评估机构进行对话，以帮助增加拥有前沿人工智能安全专业知识并能够提供有效第三方评估的公司数量。
这篇文章列出了 OpenAI 提出的有效第三方监督的优先事项和原则——该框架表示，该框架应该适用于所有前沿人工智能实验室，因为它们训练、评估和部署能力越来越强的模型。这一声明发布在人工智能安全政策异常紧张的一个月中旬，它既是对批评者的让步，也是政府在制定规则之前制定规则的尝试。对于关注人工智能突发新闻的人来说，这是实验室、批评者和监管机构之间为期数周的争论的最新举措，争论的焦点是由谁来验证前沿模型的安全性。
OpenAI 的提议
据 PYMNTS 报道，OpenAI 在帖子中表示：“我们致力于支持独立评估人员，并通过未来的法律和私人治理举措，建立更清晰、共享的国际标准，以实现有效的第三方评估。”
OpenAI 描述的核心问题是市场失灵：具有技术深度来审核前沿模型的组织太少了。有意义的安全评估需要访问未发布的系统、网络安全到生物安全等领域的专业知识，以及发布不受欢迎的调查结果的机构独立性。 OpenAI 表示，通过招募和支持多名评估员而不是单一的特权审计员，它希望建立一个生态系统，让第三方评估成为部署前沿系统的常规部分，而不是一次性的公关活动。
该公司没有透露正在与之交谈的评估员的名字，最终的安排是否会给评估员提供安全研究人员认为有意义的访问权、资金独立性和出版权，还有待观察。
人工智能政策的一周激烈争论
该提案是在一系列快速发展的政策中提出的，这些政策发展定义了 9 月份的人工智能辩论：
- 9 月 21 日星期一： OpenAI 呼吁美国领导一项国际努力，为前沿人工智能制定全球技术标准，包括递归自我改进，即人工智能系统自我改进的点。该公司警告说，完全自主的人工智能开发可能会超过人类理解和控制它的能力，并表示现在需要做出是否以及如何进行的决定。
- 9 月 18 日星期五： 加州州长 Gavin Newsom 签署了一项行政命令，召集全国专家加强该州的人工智能安全法，明确旨在加速实施新的第三方对人工智能系统安全和保障风险的监督。
- 9 月 19 日星期六： 唐纳德·特朗普总统在 Truth Social 帖子中驳斥了该行业的安全担忧，写道：“我们不会以任何方式阻碍或扼杀这个令人难以置信的行业的增长。人工智能是下一次工业革命或互联网，但规模更大、影响力更大，可能占我们国家 GDP 的 25%。”
正如我们本周早些时候报道的那样，OpenAI 由美国主导的标准提案标志着这家多年来抵制约束性监督的公司发生了惊人的转变，而新的第三方评估原则将这种立场延伸到了私人治理领域。
独立性问题
OpenAI 在接受外部监管机构之前，其主要竞争对手也提出了类似的提议。大约一周前，Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 发表了一篇文章，提出一项人工智能安全计划，该计划围绕领先人工智能公司内部的独立评估员、民主国家公司之间的协调以及最终一项包括中国在内的国际协议而建立。
这两项提议立即引起了专家的质疑。 CNBC 报道称，由 100 多名人工智能专家组成的联盟正在敦促 Anthropic、OpenAI 和其他进行评估的基金会模型实验室保持独立性和透明度，并警告说，嵌入被审计公司或由其支付费用的评估人员面临不可避免的利益冲突。人工智能先驱杰弗里·辛顿(Geoffrey Hinton)支持的监管机构已向两家公司施压，要求其提供安全计划的细节，评论员指出了人工智能安全评估组织和实验室本身之间的旋转门：对安全作业进行评分的人也可能是撰写安全作业的人。
这种紧张局势正是 OpenAI 的新帖子试图化解的争论的症结所在。该公司的答案——更多的评估员、共同的国际标准以及通过未来的法律和私人倡议实施的监督——只是一个框架，但还不是保证。批评者会指出，提出规则的实验室与受这些规则约束的实验室是同一家实验室，而自我塑造的治理历来有利于制定规则的公司。
为什么它很重要
下一个前沿模型已经在训练中，部署前设计监督的窗口即将关闭。如果 OpenAI 招募的独立评估员能够培养出具有真正准入和真正独立性的审计员，那么它可能会成为全球范围内如何治理前沿人工智能的模板——华盛顿、布鲁塞尔和其他地方的立法者迄今为止未能自行建立的私人政权。如果它与保密协议一起提供附属咨询服务，它将证实怀疑者最糟糕的解读。
不管怎样，OpenAI 正在与 Anthropic 竞争谁能提出最可信的监督制度，这一事实本身就是新鲜事。一年前，实验室的统一主要是反对监管。现在他们正在竞相定义它。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
