Eine Gruppe von 25 Fields-Medaillengewinnern – alle Erstunterzeichner sind Gewinner der höchsten Auszeichnung der Mathematik – hat eine formelle Erklärung veröffentlicht, in der sie warnt, dass der Wettlauf um die Präsentation künstlicher Intelligenz anhand mathematischer Benchmarks sowohl der Mathematikwissenschaft als auch der Gemeinschaft, die sie trägt, schadet. Die Erklärung mit dem Titel „Eine schwerwiegende Fehlausrichtung der KI in der Mathematik“ wurde am Freitag veröffentlicht und zu den ersten Unterzeichnern gehört Terence Tao, einer der einflussreichsten Mathematiker seiner Generation.
Die Erklärung wird auf mathandai.org veröffentlicht und hat laut der öffentlichen Unterzeichnerliste der Website innerhalb eines Tages mehr als 1.300 weitere Unterstützer von Universitäten und Forschungsinstituten auf der ganzen Welt gesammelt. Tao bestätigte seine Teilnahme in einem Beitrag auf seinem persönlichen Blog und schrieb, er sei „stolz, auf der Liste der 25 Erstunterzeichner zu sein – allesamt Fields-Medaillengewinner“. Für alle, die [die neuesten KI-Entwicklungen] (https://aibuzzwire.news) verfolgen, stellt die Intervention eine der bislang schärfsten Kritiken aus der Elite-Mathematik dar, wie KI-Labore die Fähigkeiten ihrer Modelle messen – und veröffentlichen. Es dominierte die Diskussion bei Hacker News am Freitag und zog Hunderte von Kommentaren nach sich.
Was die Erklärung sagt
Die Unterzeichner bestreiten nicht, dass KI-Systeme bemerkenswert leistungsfähig geworden sind. „In den letzten Monaten haben sich die mathematischen Fähigkeiten von LLMs so stark verbessert, dass sie in vielen Bereichen der Mathematik große offene Probleme lösen können“, heißt es in der Erklärung. Der Einwand richtet sich gegen das, was als nächstes passiert: KI-Unternehmen nutzen diese Lösungen als Wettbewerbsmaßstäbe, was nach Ansicht der Autoren „schädlich für die Mathematikwissenschaft und die mathematische Gemeinschaft“ ist.
Die Kernaussage ist eindeutig: „Die Ziele der KI-Unternehmen und die Ziele der mathematischen Gemeinschaft stimmen stark auseinander.“
In der Erklärung wird argumentiert, dass die Lösung berühmter Probleme traditionell eher als Zeichen neuer Einsichten gedient hat – als Beginn eines langen gemeinsamen Prozesses von Gesprächen, Diskussionen, Vereinfachungen und schließlich dem Verfassen von Lehrbüchern – und nicht als Selbstzweck. „Das Lösen von Problemen ist nur ein Werkzeug und Stellvertreter für das Erreichen des primären Ziels des konzeptionellen Verständnisses und der Einsicht“, schreiben die Autoren. „Wenn man dies in der Welt der KI vergisst, könnte sich das Werkzeug gegen das primäre Ziel wenden.“
Die am häufigsten zitierte Zeile bringt die Sorge zum Ausdruck: „Die immer schnellere Massenproduktion von ‚wahr/falsch‘-Aussagen könnte fruchtbaren Boden zerstören, anstatt neuen Ideen Leben einzuhauchen.“
Namensnennung, Plagiat und überstürzte Ankündigungen
Die Unterzeichner äußern auch einen praktischen Kritikpunkt. „Oft werden diese Lösungen in Eile angekündigt, sodass keine Zeit für eine ordnungsgemäße Beschreibung, die Isolierung neuer Methoden und Ideen und das Zitieren relevanter früherer Arbeiten anderer bleibt“, heißt es in der Erklärung. „Wie in allen kreativen Berufen wirft dies schwerwiegende Fragen zu Zuschreibung und Plagiat auf.“
Die Autoren warnen vor einem Effekt zweiter Ordnung: Ohne „willige Mathematiker, die sich um ihre Entwicklung und Integration in den mathematischen Kanon kümmern müssen“ würden von KI erdachte Ideen niemals vollständig entwickelt werden und „die entscheidende menschliche Übertragungskette zwischen Mathematikern würde verloren gehen“.
Eine ungewöhnliche Demonstration der Dringlichkeit
Der Vorgang selbst war ungewöhnlich. Tao räumte in seinem Blog ein, dass die Erklärung aus Diskussionen zwischen den Unterzeichnern „in der letzten Woche“ hervorgegangen sei, und entschuldigte sich dafür, dass kein stärker konsultativer Prozess durchgeführt wurde. „Wir kamen zu dem Schluss, dass die Dringlichkeit der Situation so groß war, dass wir eher früher als später eine Erklärung veröffentlichen mussten“, schrieb er.
Die Erklärung folgt dem Vorbild der früheren Leiden-Erklärung und die Organisatoren laden ausdrücklich zu weiteren Unterschriften ein. Tao wies die Leser auch auf die jüngste Berichterstattung des Economist über die Aussage hin. Die ersten 25 Unterzeichner waren alle Fields-Medaillengewinner, ein bewusstes Zeichen – die höchstdekorierten Forscher der Mathematik, die mit einer Stimme sprechen. Die breitere Befürworterliste umfasst bereits Mathematiker vom MIT, der ETH Zürich, dem Max-Planck-Institut, Northwestern, der NYU und Dutzenden anderen Institutionen.
Eine Warnung über die Mathematik hinaus
Obwohl die Aussage in der Mathematik verwurzelt ist, stellen die Autoren sie als Vorlage für ein viel umfassenderes Problem dar. „Wir erleben eine allgemeine Bedrohung der intellektuellen Arbeit, mit einer Diskrepanz zwischen dem Ergebnis des Einsatzes von KI und seinem ursprünglichen Zweck“, heißt es in der Erklärung.
Das Argument wird weit über die Mathematikfakultäten hinaus Nachhall finden. In vielen Berufen, so die Autoren, dient jahrelange Ausbildung traditionell nicht nur dazu, endgültige Antworten zu finden, sondern auch dazu, Verständnis und die Fähigkeit zu entwickeln, neue Fragen zu formulieren. Wenn KI-Systeme in der Lage werden, die Ergebnisse dieser Arbeit direkt zu produzieren, „stimmen diese Ziele nicht mehr überein“. Die Erklärung beschreibt die Probleme, mit denen Mathematiker konfrontiert sind, als „ähnlich den Problemen, mit denen andere wissenschaftliche und kreative Berufe konfrontiert sind, und weisen auf Probleme hin, mit denen die gesamte Menschheit konfrontiert sein könnte.“
Keine Ablehnung von KI
Insbesondere ist die Erklärung kein Aufruf, die KI-Entwicklung zu stoppen. „KI bietet das Potenzial, echtes mathematisches Lernen und Verständnis zu verbessern und zu beschleunigen“, schreiben die Autoren, räumen jedoch ein, dass „die Mathematik als Beruf angepasst werden muss.“
Die Intervention landet in einem aufgeladenen Moment. Behauptungen, dass KI-Systeme berühmte offene Probleme gelöst oder große Fortschritte gemacht haben, haben wiederholt Schlagzeilen gemacht, und Anfang des Jahres zeigte ein separater Streit über eine OpenAI-Behauptung im Zusammenhang mit dem Navier-Stokes-Problem, wie umstritten solche Ankündigungen sein können. Die Erklärung der Fields-Medaillengewinner ist praktisch die ranghöchste Reaktion der Mathematik-Community auf diese Dynamik: eine Forderung an KI-Labore, jahrhundertealte offene Probleme nicht mehr als Bestenlisteneinträge zu behandeln.
Ob KI-Unternehmen reagieren – indem sie Mathematiker vor Ankündigungen konsultieren, frühere Arbeiten würdigen oder Benchmarks überdenken – bleibt abzuwarten. Schon jetzt ist klar, dass die Leute, die diese Probleme am besten kennen, nicht mehr nur am Rande zuschauen.
