En grupp av 25 Fields-medaljörer – varje första undertecknare en vinnare av matematikens högsta utmärkelse – har publicerat en formell deklaration som varnar för att kapplöpningen att visa upp artificiell intelligens på matematiska riktmärken skadar både matematikvetenskapen och samhället som upprätthåller den. Uttalandet, med titeln "A Severe Misalignment of AI in Mathematics", gick live på fredagen, och bland dess första undertecknare är Terence Tao, en av de mest inflytelserika matematikerna i sin generation.
Deklarationen publiceras på mathandai.org, och inom ett dygn hade den samlat mer än 1 300 ytterligare stödjare från universitet och forskningsinstitut runt om i världen, enligt webbplatsens offentliga undertecknarlista. Tao bekräftade sitt deltagande i ett inlägg på sin personliga blogg och skrev att han var "stolt över att vara bland listan över 25 första undertecknare - alla Fields-medaljörer." För alla som följer den senaste AI-utvecklingen, markerar interventionen en av de mest spetsiga kritikerna hittills från elitmatematiken om hur AI-labb mäter – och publicerar – sina modellers kapacitet. Det dominerade diskussionen på Hacker News på fredagen och drog hundratals kommentarer.
Vad deklarationen säger
Undertecknarna ifrågasätter inte att AI-system har blivit anmärkningsvärt kapabla. "Under de senaste månaderna har de matematiska kapaciteterna hos LLMs förbättrats dramatiskt, till den grad att de kan lösa stora olösta problem inom många matematikområden", heter det i deklarationen. Invändningen är vad som händer härnäst: AI-företag som använder dessa lösningar som konkurrenskraftiga riktmärken, vilket författarna hävdar är "skadligt för matematikvetenskapen och för det matematiska samhället."
Kärnpåståendet är skarpt: "AI-företagens mål och det matematiska samhällets mål är allvarligt felaktiga."
Deklarationen hävdar att att lösa kända problem traditionellt har tjänat som ett tecken på ny insikt - början på en lång gemensam process av samtal, diskussion, förenkling och eventuella textboksskrivningar - snarare än ett mål i sig. "Att lösa problem är bara ett verktyg och proxy för att uppnå det primära målet med konceptuell förståelse och insikt", skriver författarna. "Att glömma detta i AI-världen kan vända verktyget mot det primära målet."
Den mest citerade raden fångar oron: "massproduktionen i snabbare och snabbare takt av "sanna/falska" uttalanden kan förstöra bördig mark istället för att blåsa liv i nya idéer."
Tillskrivning, plagiat och förhastade meddelanden
Undertecknarna tar också upp ett praktiskt klagomål. "Ofta tillkännages dessa lösningar i en hast, vilket ger ingen tid för en ordentlig skrivning, isolering av nya metoder och idéer, och citerar relevanta tidigare arbeten från andra", står det i deklarationen. "Som i alla kreativa yrken väcker detta allvarliga frågor om tillskrivning och plagiat."
Författarna varnar för en andra ordningens effekt: utan "villiga matematiker som måste ta hand om deras utveckling och integration i den matematiska kanonen" skulle idéer som skapats av AI aldrig bli fullt utvecklade, och "den avgörande mänskliga överföringskedjan mellan matematiker skulle gå förlorad."
En ovanlig show av brådska
Själva processen var ovanlig. Tao erkände på sin blogg att uttalandet växte fram ur diskussioner mellan undertecknarna "under den senaste veckan", och bad om ursäkt för att han inte körde en mer rådgivande process. "Vi beslutade att situationen var så brådskande att vi behövde släppa ett uttalande förr snarare än senare", skrev han.
Deklarationen följer modellen från den tidigare Leiden-deklarationen, och arrangörerna uppmanar uttryckligen till ytterligare underskrifter. Tao pekade också läsarna på den senaste bevakningen av uttalandet av The Economist. De första 25 undertecknarna var alla Fields-medaljörer, en avsiktlig signal - matematikens mest dekorerade forskare talar med en röst. Den bredare rekommendationslistan inkluderar redan matematiker från MIT, ETH Zürich, Max Planck Institute, Northwestern, NYU och dussintals andra institutioner.
En varning bortom matematik
Medan påståendet har sina rötter i matematik, utformar författarna det som en mall för ett mycket bredare problem. "Vi bevittnar ett allmänt hot mot intellektuellt arbete, med en felaktig anpassning mellan resultatet av användningen av AI och dess ursprungliga syfte", står det i förklaringen.
Argumentet kommer att ge resonans långt utanför matematikavdelningarna. Inom många yrken, konstaterar författarna, har år av utbildning traditionellt sett inte bara tjänat till att ge slutliga svar utan för att utveckla förståelse och förmåga att formulera nya frågor. När AI-system blir kapabla att producera resultaten av sådant arbete direkt, "upphör dessa mål att passa ihop." Deklarationen beskriver de frågor som matematiker står inför som "liknande frågor som andra vetenskapliga och kreativa yrken står inför, och indikerar frågor som hela mänskligheten kan möta."
Inte ett avslag på AI
Noterbart är uttalandet inte en uppmaning att stoppa AI-utvecklingen. "AI erbjuder potentialen att förbättra och påskynda genuina matematiska studier och förståelse", skriver författarna, samtidigt som de medger att "matematiken som yrke kommer att behöva anpassa sig."
Ingreppet landar i ett laddat ögonblick. Påståenden om att AI-system har löst eller gjort stora framsteg med hyllade öppna problem har upprepade gånger skapat rubriker, och tidigare i år visade en separat tvist om ett OpenAI-påstående relaterat till Navier–Stokes-problemet hur kontroversiella sådana meddelanden kan bli. Fields-medaljörernas deklaration är i själva verket matematikgemenskapens mest seniora svar på den dynamiken: en begäran om att AI-labb slutar behandla hundraåriga öppna problem som resultat på topplistan.
Huruvida AI-företag reagerar - genom att konsultera matematiker före tillkännagivanden, kreditera tidigare arbete eller ompröva riktmärken - återstår att se. Vad som redan är klart är att de människor som känner till dessa problem bäst inte längre tittar på från sidlinjen.
