フィールズメダリスト25人からなるグループ（最初の署名者全員が数学界最高の栄誉の受賞者である）は、数学ベンチマークで人工知能を披露する競争が数学科学とそれを支えるコミュニティの両方に損害を与えていると警告する正式な声明を発表した。 「数学におけるAIの重大な不整合」と題されたこの声明は金曜日に公開され、その初期署名者の中には同世代で最も影響力のある数学者の一人であるテレンス・タオも含まれている。
この宣言は mathandi.org で公開されており、同サイトの公開署名者リストによると、その日のうちに世界中の大学や研究機関から 1,300 人以上の追加支持者を集めた。タオ氏は自身のブログへの投稿で自身の参加を認め、「初期署名者25名（全員がフィールズメダリスト）のリストに入っていることを誇りに思う」と書いた。 最新の AI 開発 を追跡している人にとって、この介入は、AI 研究所がモデルの能力をどのように測定し、公表しているかについて、エリート数学者からのこれまでで最も鋭い批判の 1 つを示しています。これは金曜日のハッカーニュースでの議論を独占し、何百ものコメントを集めた。
宣言の内容
署名者らは、AI システムの能力が著しく向上していることに異論を唱えません。 「ここ数カ月間で、LLM の数学的能力は劇的に向上し、数学の多くの分野で主要な未解決の問題を解決できるまでになった」と宣言には述べられています。反対意見は、次に起こること、つまりAI企業がこれらのソリューションを競争ベンチマークとして使用することであり、これは「数学科学と数学コミュニティにとって有害である」と著者らは主張している。
核心的な主張は、「AI企業の目標と数学コミュニティの目標は大きくずれている」という明白なものだ。
この宣言は、有名な問題を解決することは伝統的に、それ自体が目的ではなく、新たな洞察のしるし、つまり話し合い、議論、簡略化、そして最終的には教科書の執筆という長い共同プロセスの始まりとして機能してきたと主張している。 「問題の解決は、概念的な理解と洞察という主要な目標を達成するためのツールおよび代理にすぎません」と著者は書いています。 「AI の世界ではこれを忘れると、ツールが本来の目的に反してしまう可能性があります。」
最も引用された一文は、その懸念を表している。「『真/偽』の記述がますます速いペースで大量生産されると、新しいアイデアに命を吹き込む代わりに、肥沃な土壌が破壊される可能性がある。」
帰属、盗用、および急ぎのお知らせ
署名者らも実際的な苦情を提起している。 「多くの場合、こうした解決策は急いで発表され、適切な記事を書き上げたり、新しい手法やアイデアを分離したり、他の人の関連する過去の研究を引用したりする時間がありません。」と宣言では述べられています。 「すべてのクリエイティブな職業と同様に、これは帰属と盗作に関する深刻な問題を引き起こします。」
著者らは二次的な影響について警告している。「発展と数学規範への統合に気を配らなければならない意欲的な数学者」がなければ、AIによって考え出されたアイデアは完全に発展することはなく、「数学者間の重要な人間の伝達の連鎖は失われるだろう」。
異常な緊迫感の表れ
プロセス自体が異例でした。タオ氏は自身のブログで、この声明が「先週の」署名者間の議論から生まれたものであることを認め、より協議的なプロセスを実行しなかったことを謝罪した。 「私たちは状況が緊急であるため、遅かれ早かれ声明を発表する必要があると判断しました」と彼は書いた。
この宣言は以前のライデン宣言のモデルに従っており、主催者は明示的にさらなる署名を求めています。タオ氏はまた、エコノミスト誌による声明に関する最近の報道について読者に指摘した。最初の署名者 25 名は全員がフィールズ賞受賞者であり、数学界で最も栄誉ある研究者が声を揃えて語るという意図的な合図でした。より広範な支持リストにはすでに、MIT、チューリッヒ工科大学、マックス・プランク研究所、ノースウェスタン大学、ニューヨーク大学、その他数十の機関の数学者が含まれています。
数学を超えた警告
この声明は数学に根ざしていますが、著者らはそれをより広範な問題のテンプレートとして組み立てています。 「私たちは、AI利用の結果と当初の目的との間にズレが生じ、知的労働に対する一般的な脅威を目の当たりにしている」と宣言には書かれている。
この議論は数学科を超えて反響を呼ぶだろう。著者らは、多くの職業において、伝統的に長年の訓練が最終的な答えを導き出すだけでなく、理解と新たな質問を組み立てる能力を養うのに役立ってきたと述べています。 AI システムがそのような作業の結果を直接生み出すことができるようになると、「これらの目標は一致しなくなります」。この宣言は、数学者が直面している問題を「他の科学的および創造的な専門職が直面している問題と同様であり、人類全体が直面する可能性のある問題を示している」と述べている。
AI の否定ではない
注目すべきは、この声明がAI開発の停止を求めるものではないということだ。著者らは、「AIは真の数学の研究と理解を強化し、加速させる可能性をもたらす」と書いているが、「職業としての数学は適応する必要がある」と認めている。
介入は緊張した瞬間に起こります。 AI システムが有名な未解決の問題を解決した、または大きな進歩を遂げたという主張は繰り返し見出しを飾り、今年初めにはナビエ・ストークス問題に関連する OpenAI の主張を巡る別の論争が、そのような発表がいかに物議を醸す可能性があるかを示しました。フィールズメダリストたちの宣言は、事実上、その力学に対する数学界の最上級の反応である。AI研究室に対し、何世紀にもわたる未解決の問題をリーダーボードのエントリーとして扱うのをやめるよう求めるものだ。
AI企業が、発表前に数学者に相談するか、以前の研究をクレジットするか、ベンチマークを再考するかなど、対応するかどうかはまだ分からない。すでに明らかなことは、これらの問題を最もよく知っている人々は、もはや傍観者ではないということです。
