另一位数学家公开指责 OpenAI 在其著名的数学突破背后的数据上存在不道德和“不诚实”的行为，并表示该公司未能证明他与 ChatGPT 的私人互动对上个月大张旗鼓地宣布的结果没有贡献。
在 The Verge 周三报道的 Mastodon 的一系列帖子中，数学家 Andreas Thom 表示担心，他和他的同事在 OpenAI 宣布之前与 ChatGPT 进行的对话可能促成了该模型的成功。就在他介入的几天前，纽约大学数学教授 Tristan Buckmaster 公开质疑 OpenAI 的模型是否受益于他自己使用该公司的 Codex 工具——将实验室的胜利时刻变成了关于训练数据来源的持续争议。 更多相关背景，请参阅我们的AI新闻。
从突破到反弹
八月，OpenAI 宣布其系统在数学和理论计算机科学领域产生了十项重要成果，每项成果都经过机器验证的精益证明——这是该网站当时报道的一个里程碑，同时该公司声称解决了千年奖问题。十个结果之一证实了所谓的非实体群的存在，这是群论中长期悬而未决的问题。
这一结果成为新争议的中心。据 The Verge 报道，OpenAI 承认该证明很大程度上建立在 Thom 和数学家 Gábor Kun 之前的工作基础上，在数学界因最初未能承认他们最近的贡献而受到批评后，该公司悄悄修改了其文章。
对于 Thom 来说，这一承认提出了一个令人不安的问题：模型是如何如此详细地指挥他和 Kun 的技术的？
汤姆所说的问题没有得到解答
Thom 表示，“OpenAI 对我们技术的详细掌握”令他震惊，他指出这在当时既不是最明显也不是最有希望的解决方案。他给 OpenAI 研究人员 Sébastien Bubeck 和 Mark Sellke（后者也是哈佛大学的统计学家）写了电子邮件，询问他与 ChatGPT 的交互是否是“训练数据的一部分或可用于推理过程”，因此可能对结果有所贡献。
他收到的答案仅涉及他的对话是否可以直接访问，而不是他们是否已进入用于训练和改进公司模型的庞大数据池。 “没有给出这样的限定、解释或证据，”汤姆写道。 “至少可以说，我认为这是一种不诚实。”
在 The Verge 引用的后续报道中，他尖锐地指出了这一指控：“塞尔克的明确回答至少是不合理的宽泛和实质上的误导；回想起来，这显然是不诚实的。”
Thom 的论点不是关于 OpenAI 做了什么，而是关于谁承担举证责任。他说，研究人员没有能力对公司的培训渠道进行逆向工程。他写道：“只有 OpenAI 拥有相关数据。”因此，如果该公司想要否认用户数据对其结果有所贡献，那么 OpenAI 就有责任通过披露相关数据集并澄清其如何使用客户交互来证明这一点。
OpenAI 的谨慎否认
据 The Verge 报道，这场纠纷与该公司对其声称的“纳维-斯托克斯”突破的处理方式相呼应，巴克马斯特一直在与人类研究员 Levent Alpöge 以个人身份进行这项工作。 OpenAI 在宣布这一结果的博客文章中表示：“在他们公开发布之前，我们（研究人员和代理人）没有通过任何方式看到他们的任何工作——特别是，没有为了解决这个问题而访问任何特定的用户数据。”
但同一篇文章承认有一个间接渠道：“虽然不太可能，但我们不能排除从他们使用我们产品中获得的去识别化数据有助于改进我们的模型。”
对于汤姆来说，这种区别就是整个问题。 “去识别化可能会删除一个名字；但它不会删除数学思想的知识内容，”他写道。 OpenAI 没有立即回应 The Verge 的置评请求。
他补充说，如果用户提供的非公开研究帮助改进了模型，然后该公司在未经同意、适当披露或信用的情况下用来与这些用户进行竞争以使其发表，那么“在道德上是站不住脚的”。
数学的冷静
千禧年奖推动的情况并没有缓解人们的紧张情绪。 OpenAI 表示，在听到网上传言称其他研究人员已经取得重大进展后，他们开始着手解决这个问题——有效地推动学术界达到他们多年来一直在接近的结果。
许多研究人员告诉 The Verge，他们担心，如果数学家们开始相信，即使是即将取得突破的谣言也可能引发一场与资源充足、渴望荣耀的科技巨头的竞赛，他们担心这种行为会将数学推入更加保密的状态。 The Verge 的相关报道——“OpenAI 狡猾的数学突破让学术界不寒而栗”——抓住了该领域的情绪。
对于人工智能公司和他们越来越多地接触到的研究界来说，这一事件发生在一个微妙的时刻。无论任何单个结果的优点如何，汤姆所描述的不对称都是结构性的：实验室可以大规模地获取用户交互，而生成该数据的人无法审核所获取的内容。除非公司开放训练管道接受审查，或者在客户对话和模型训练之间设置严格的、可验证的防火墙，否则每一个“我们没有使用你的数据”的声明都将带有一个隐含的星号——每一次突破都将伴随着数学家以及越来越多的其他领域的研究人员要求证明。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
