据 Retraction Watch 10 月 8 日报道，OpenAI 已撤回 10 月 6 日在 GitHub 上发布的 722 份研究预印本中的三份，因为一个符号错误导致一个中心论点以及依赖于该结构的两个结果无效。此次撤回是在大规模发布后不到 24 小时，OpenAI 称其为“推动人类知识前沿并推动数学进一步进步”的努力。
预印本描述了内部人工智能模型在几何、计算机科学、代数和其他领域的 372 个未解决问题上取得的进展。此举立即引起了研究界的密切关注，正如我们本周早些时候在关于首次发布 722 份数学手稿 的报告中所报道的那样，该公司将这一下降视为其未发布的前沿模型可以产生的效果的前所未有的展示。在我们的最新人工智能发展 报道中关注这个故事的最新动态。
符号错误通过相关证明级联
10月7日，OpenAI因符号错误宣布撤回三篇论文。根据该公告，该错误使一份手稿中的论点和两篇相关论文所使用的结构无效。现在，每篇撤回的论文都附有解释“差距”的通知。
该公司还表示，它已经修订了其他 14 份手稿，包括校对证据、更正陈述、更清晰的假设和依赖关系，以及对过时引文的一项更正。 OpenAI 的研究主管丹·罗伯茨 (Dan Roberts) 宣布了 X 的撤回，并写道，该公司将“继续使用新的形式化和我们注意到的任何勘误来更新存储库”。
OpenAI 发言人告诉 Retraction Watch，该公司在审计期间发现了这些错误，并将该过程描述为“与其他研究手稿一样”的迭代过程。该发言人补充说，OpenAI 欢迎审查，并将“努力及时纠正[错误]，如果找不到修复措施，将撤回论文。”
值得注意的是，OpenAI 发言人表示，该公司数学和人工智能咨询小组 (AGMAI) 的合作者建议不要等待“完全正式化”就发布结果——大约 50% 的结果未经证实就发布了。
数学家：快速修复，失去信任
研究数学家的反应经过衡量，但也很尖锐。康奈尔大学数学副教授亚历克斯·汤森德 (Alex Townsend) 告诉《撤稿观察》，三份手稿中出现错误并不奇怪，他怀疑还会发现更多错误。 “鉴于数学界对人工智能的怀疑，我认为 OpenAI 应该首先公布经过精益验证的手稿，”他指的是机械检查数学证明的开源编程语言。他认为，单独的公告可能会邀请社区帮助验证其余部分。
麻省理工学院数学系高级研究科学家安德鲁·萨瑟兰 (Andrew Sutherland) 表示，他赞赏 OpenAI 在发现错误后迅速采取行动，称其为“负责任的做法”。但他强调，许多数学家仍然“对 OpenAI 迄今为止的表现不满意”，特别指出该公司 9 月 8 日宣布人工智能系统已经解决了纳维-斯托克斯问题——一群顶尖研究人员批评这一说法仓促，“没有时间进行适当的撰写，隔离新方法和想法，并引用其他人之前的相关工作。”超过 8,000 名研究人员赞同这些担忧。
人类数学协会在 10 月 7 日发布的一份声明中更进一步：“数学家并没有要求完成这项工作。一次性发布 700 多个文件并不是学术的展示，而是权力的展示。我们敦促数学家停止与 OpenAI 的合作，回归以人类理解为中心的科学愿景。”
这对人工智能生成的科学意味着什么
这一集正在成为人工智能实验室应如何大规模处理机器生成的研究的早期测试案例。 OpenAI 的方法——快速发布、公开审核、撤回失败的内容——与许多数学家喜欢的形式验证优先的方法形成鲜明对比，在这种方法中，结果在发布之前由像 Lean 这样的证明助手进行检查。
双方都有合理的论据。等待完全正式化可能会将有用的结果推迟几个月，OpenAI 表示它是在 AGMAI 的支持下发布的。但级联效应——一个符号错误导致两篇相关论文被删除——说明了为什么出版前的验证一直是数学领域的常态，以及为什么当社区处理剩余的大约 700 份手稿时，可能会出现更多错误。
目前，OpenAI 表示希望从反馈中学习，并将“尽我们所能”遵循 AGMAI 的协议。这是否足以重建数学界的信誉是另一个问题。正如萨瑟兰所说：“我认为数学界会积极看待撤回和更正，但要赢回他们失去的信任，还需要做更多的事情。”
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →
