数学家 Frank Calegari 在陶哲轩颇具影响力的博客上发表了对人工智能对其领域所做贡献的直言不讳的评估,他认为 OpenAI 于 10 月 6 日发布的 700 多篇研究论文是“数学史上的一个分水岭”。这篇题为“数学已经改变。让我们像它一样行动吧”的帖子于周六发布,并迅速登上了《黑客新闻》的头版,并吸引了数百条评论。这篇文章的核心信息对数学家和人工智能公司来说都是一个挑战——有关这场冲突的持续报道,请参阅我们的人工智能研究新闻。
卡莱加里写道:“不可否认,人工智能现在能够在数学的许多领域做出突破性的贡献。” “那么为什么有些数学家如此不高兴呢?”作为该领域最著名的人工智能研究怀疑论者之一,他的回答可能出乎你的意料。
对论文本身的直率判断
Calegari 对 OpenAI 版本的批评是针对技术和社区规范问题的严厉批评。他写道,这些论文“写得非常糟糕,违反了我们社区对归因的期望。其中一些甚至是错误的。”人们抱怨的并不是人工智能不能做数学——他承认它可以——而是人工智能在做数学时没有尊重数学文献可用的标准。
他的补救措施非常实用。他认为,数学家“对我们如何聘用数学家、发表论文和培训学生的控制力,比对万亿美元公司行为的控制力要大得多”,而这正是该领域的能量应该流向的地方。
##“一切都已被证明”
文章中最引人注目的一段是个人的。卡莱加里观察到,他在整个职业生涯中公开提到的主要开放问题——在演讲、讲座、文章或拨款提案中——没有一个“没有受到这一宣布的影响。一切都被声称已得到证明。”
“我希望在名单中看到其中一些,”他写道。 “但不是全部。不是一下子全部。不是如此漫不经心。”对于一名在职数学家来说,看着自己所接触到的每个问题都被卷入企业新闻周期的经历会让人迷失方向,而关于人工智能风险的抽象争论却不会。
元素周期表不是化学
卡莱加里强烈反对这样一种观点,即声称拥有该领域的著名地标就意味着该领域已经完成。他指出,OpenAI 论文对朗兰兹纲领(现代数论中最深层次的结构之一)中函子性和互惠性的一般问题“几乎没有产生任何影响”。
但他写道,即使这次发布解决了朗兰兹计划中的所有问题,想象“解决了数论”也“就像说元素周期表的构建解决了化学一样天真”。他认为,这是数学家需要向公众提出的一个论点:核心问题只是最明显的山峰,而山脉远远超出了它们。
群论历史上的警告
这篇文章的历史支柱是有限单群的分类——卡莱加里从内部了解的传奇故事。 1972 年,丹尼尔·戈伦斯坦 (Daniel Gorenstein) 宣布了一项分类计划。经过大约十年的疯狂活动后,该分类于 1983 年宣布完成——事实证明,分类还为时过早,直到大约二十年后,阿施巴赫和史密斯才完成了类西群的案例。
卡莱加里写道,这种分类“在很多方面都取得了巨大的成功”,“但它也是一次失败”——宣布这个著名问题已经消失的消息冷却了人们对该学科的兴趣,数学家们将注意力转向了其他地方。然而,丰富的问题仍然存在,包括他认为约翰·康威最喜欢的问题:为什么怪物团体会存在?卡莱加里表示,对于某些领域,OpenAI 转储的感觉可能与群体理论学家对分类的感觉完全一样。
卡莱加里希望数学家做什么
这篇文章以一个纲领而不是一个哀叹来结束。该领域需要像 Gorenstein-Lyons-Solomon 修订分类处理那样的努力——耐心、多卷的工作,使声称的结果真正可靠。而且它需要抵制宣布该主题“完成”,因为有了可用的新工具,数学“已经为进一步研究做好了准备”。
他认为,卡莱加里所说的人工智能辅助证明的“银河旁路”所错过的旧路仍然存在,数学家应该寻找它们——而且最重要的是,“在为人们提供工作时,我们需要奖励这种行为。”这篇文章带有陶的脚注,指出这篇文章最初是用不同的文件格式编写的,并使用人工智能进行了转换,这是一个小小的讽刺,强调了这些工具已经彻底渗透到该领域的日常工作中。
更大清算的一部分
这篇文章发表在数学家和人工智能实验室之间摩擦不断升级的一年中。 AI Buzz Wire 此前曾报道过,数学家要求证明 OpenAI 的模型没有经过他们私下讨论的训练,包括陶哲轩在内的 25 名菲尔兹奖得主宣称人工智能与数学之间存在“严重不一致”,高级研究院对 377 个人工智能衍生的数学结果表示担忧,以及陶本人警告说,人工智能正在不可再生地挖掘世界上大量的优秀开放问题。
这篇新文章引人注目的是态度的转变。之前的回应中的主要基调是惊慌。卡莱加里的就是适应。在他看来,技术不会消失,非凡的主张也不会消失,该领域控制的唯一变量是它自己的反应——如何发布、如何培训以及雇用谁。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →