由 25 名菲尔兹奖得主组成的团体(每位最初签署者都是数学最高荣誉的获得者)发表了一份正式声明,警告称在数学基准上展示人工智能的竞赛正在损害数学科学和维持数学科学的社区。这份题为“人工智能在数学领域的严重错位”的声明于周五发布,其最初签署者包括陶哲轩,他是这一代最有影响力的数学家之一。
该宣言在 mathandai.org 上发布,根据该网站的公开签名者名单,一天之内,该宣言就聚集了来自世界各地大学和研究机构的 1,300 多名支持者。陶在个人博客上发表的一篇文章中证实了他的参与,并写道,他“很自豪能成为 25 名最初签署者之一——全部是菲尔兹奖得主”。对于任何追踪最新人工智能发展的人来说,这一干预标志着精英数学界迄今为止对人工智能实验室如何衡量和宣传其模型能力的最尖锐的批评之一。它主导了周五黑客新闻的讨论,吸引了数百条评论。
声明内容
签署者并不否认人工智能系统已经变得非常强大。声明称:“在过去的几个月里,法学硕士的数学能力得到了显着提高,以至于他们可以解决许多数学领域的重大悬而未决的问题。”反对意见是接下来发生的事情:人工智能公司使用这些解决方案作为竞争基准,作者认为这“对数学科学和数学界有害”。
其核心主张十分鲜明:“人工智能公司的目标和数学界的目标严重不一致。”
该宣言认为,解决著名问题传统上被视为新见解的标志——对话、讨论、简化和最终编写教科书的长期公共过程的开始——而不是其本身的目的。 “解决问题只是实现概念理解和洞察的主要目标的工具和代理,”作者写道。 “在人工智能世界中忘记这一点可能会使该工具背离主要目标。”
被引用最多的一句话体现了人们的担忧:“以越来越快的速度大规模生产‘真/假’陈述可能会破坏肥沃的土壤,而不是为新想法注入生命。”
归属、剽窃和仓促公告
签署者还提出了实际的不满。声明指出:“这些解决方案通常是仓促宣布的,没有时间进行适当的撰写、分离新方法和想法,以及引用其他人以前的相关工作。” “与所有创意职业一样,这引发了严重的归属和抄袭问题。”
作者警告说,存在二阶效应:如果没有“必须照顾自己的发展并融入数学规范的自愿数学家”,人工智能构思的想法将永远不会得到充分发展,并且“数学家之间至关重要的人类传播链将会丢失”。
不同寻常的紧迫感
这个过程本身就很不寻常。陶在他的博客上承认,该声明是签署方“上周”讨论的结果,并为没有进行更多协商程序而道歉。他写道:“我们认为情况非常紧急,需要尽快发布声明。”
该宣言沿袭了早期莱顿宣言的模式,组织者明确邀请更多签名。陶还向读者介绍了《经济学人》最近对该声明的报道。最初的 25 位签名者都是菲尔兹奖获得者,这是一个刻意的信号——数学界最受勋章的研究人员齐心协力。更广泛的认可名单已经包括来自麻省理工学院、苏黎世联邦理工学院、马克斯普朗克研究所、西北大学、纽约大学和数十家其他机构的数学家。
数学之外的警告
虽然该陈述植根于数学,但作者将其视为更广泛问题的模板。声明中写道:“我们正在目睹对智力工作的普遍威胁,人工智能的使用结果与其最初目的之间存在不一致。”
这一论点将远远超出数学系的范围。作者指出,在许多职业中,多年的培训传统上不仅可以产生最终答案,而且可以培养理解力和提出新问题的能力。随着人工智能系统能够直接产生此类工作的结果,“这些目标不再一致”。该宣言将数学家面临的问题描述为“与其他科学和创意职业面临的问题类似,并指出了全人类可能面临的问题”。
并不是拒绝人工智能
值得注意的是,该声明并不是呼吁停止人工智能开发。作者写道:“人工智能提供了增强和加速真正的数学研究和理解的潜力,”同时承认“数学作为一种职业需要适应。”
干预是在一个紧张的时刻进行的。声称人工智能系统已经解决或在著名的开放问题上取得重大进展的说法一再成为头条新闻,今年早些时候,与纳维-斯托克斯问题相关的 OpenAI 声明的另一起争议表明,此类声明可能会引起多么大的争议。菲尔兹奖得主的声明实际上是数学界对这一动态的最高级回应:要求人工智能实验室停止将数百年历史的开放问题视为排行榜条目。
人工智能公司是否会做出回应——在发布消息之前咨询数学家、归功于之前的工作,还是重新考虑基准——还有待观察。已经很清楚的是,最了解这些问题的人不再袖手旁观。
