Een groep van 25 Fields-medaillewinnaars – elke ondertekenaar is winnaar van de hoogste wiskunde-onderscheiding – heeft een formele verklaring gepubliceerd waarin wordt gewaarschuwd dat de race om kunstmatige intelligentie op wiskundige maatstaven onder de aandacht te brengen zowel de wiskundewetenschap als de gemeenschap die deze in stand houdt, schaadt. De verklaring, getiteld ‘A Severe Misalignment of AI in Mathematics’, ging vrijdag live en een van de eerste ondertekenaars is Terence Tao, een van de meest invloedrijke wiskundigen van zijn generatie.
De verklaring is gepubliceerd op mathandai.org en had binnen een dag ruim 1.300 extra ondertekenaars van universiteiten en onderzoeksinstituten over de hele wereld verzameld, volgens de openbare ondertekenaarslijst van de site. Tao bevestigde zijn deelname in een bericht op zijn persoonlijke blog en schreef dat hij "er trots op was dat hij tot de lijst van 25 initiële ondertekenaars behoorde - allemaal Fields-medaillewinnaars." Voor iedereen die de laatste AI-ontwikkelingen (https://aibuzzwire.news) volgt, markeert de interventie een van de meest scherpe kritieken tot nu toe vanuit de elite wiskunde over hoe AI-laboratoria de mogelijkheden van hun modellen meten – en publiceren. Het domineerde vrijdag de discussie op Hacker News en trok honderden reacties.
Wat de verklaring zegt
De ondertekenaars betwisten niet dat AI-systemen opmerkelijk capabel zijn geworden. "De afgelopen maanden zijn de wiskundige capaciteiten van LLM's dramatisch verbeterd, tot het punt dat ze grote openstaande problemen op veel gebieden van de wiskunde kunnen oplossen", aldus de verklaring. Het bezwaar is wat er daarna gebeurt: AI-bedrijven gebruiken deze oplossingen als concurrerende benchmarks, wat volgens de auteurs "schadelijk is voor de wiskundewetenschap en voor de wiskundige gemeenschap."
De kernclaim is grimmig: “De doelstellingen van de AI-bedrijven en de doelstellingen van de wiskundige gemeenschap zijn ernstig niet op elkaar afgestemd.”
In de verklaring wordt betoogd dat het oplossen van beroemde problemen van oudsher heeft gediend als een teken van nieuw inzicht – het begin van een lang gemeenschappelijk proces van gesprekken, discussie, vereenvoudiging en uiteindelijke beschrijvingen van leerboeken – in plaats van een doel op zich. "Het oplossen van problemen is slechts een hulpmiddel en proxy voor het bereiken van het primaire doel van conceptueel begrip en inzicht", schrijven de auteurs. "Als je dit in de wereld van AI vergeet, kan de tool het primaire doel tegenwerken."
De meest geciteerde regel geeft de zorg weer: "de massaproductie in steeds sneller tempo van 'waar/onwaar'-uitspraken zou vruchtbare grond kunnen vernietigen in plaats van nieuwe ideeën nieuw leven in te blazen."
Naamsvermelding, plagiaat en overhaaste aankondigingen
De ondertekenaars hebben ook een praktische klacht. “Vaak worden deze oplossingen overhaast aangekondigd, waardoor er geen tijd overblijft voor een goede beschrijving, het isoleren van nieuwe methoden en ideeën, en het citeren van relevant eerder werk van anderen”, aldus de verklaring. "Zoals bij alle creatieve beroepen roept dit ernstige vragen op over toeschrijving en plagiaat."
De auteurs waarschuwen voor een tweede orde effect: zonder ‘gewillige wiskundigen die moeten zorgen voor hun ontwikkeling en integratie in de wiskundige canon’ zouden ideeën die door AI zijn bedacht nooit volledig ontwikkeld kunnen worden, en ‘zou de cruciale menselijke overdrachtsketen tussen wiskundigen verloren gaan.’
Een ongewoon blijk van urgentie
Het proces zelf was ongebruikelijk. Tao erkende op zijn blog dat de verklaring voortkwam uit discussies tussen de ondertekenaars ‘de afgelopen week’, en verontschuldigde zich voor het niet voeren van een meer consultatief proces. “We besloten dat de urgentie van de situatie zo groot was dat we zo snel mogelijk een verklaring moesten vrijgeven”, schreef hij.
De verklaring volgt het model van de eerdere Leidse verklaring en de organisatoren nodigen expliciet uit tot verdere handtekeningen. Tao wees de lezers ook op de recente berichtgeving over de verklaring van The Economist. De aanvankelijke 25 ondertekenaars waren allemaal Fields-medaillewinnaars, een doelbewust signaal: de meest gedecoreerde onderzoekers van de wiskunde spreken met één stem. De bredere lijst met steunbetuigingen omvat al wiskundigen van MIT, ETH Zürich, het Max Planck Instituut, Northwestern, NYU en tientallen andere instellingen.
Een waarschuwing die verder gaat dan wiskunde
Hoewel de stelling zijn oorsprong vindt in de wiskunde, beschouwen de auteurs het als een sjabloon voor een veel breder probleem. “We zijn getuige van een algemene bedreiging voor intellectueel werk, met een verkeerde afstemming tussen de uitkomst van het gebruik van AI en het oorspronkelijke doel ervan”, luidt de verklaring.
Het argument zal resoneren tot ver buiten de wiskundeafdelingen. In veel beroepen, zo merken de auteurs op, hebben jarenlange training traditioneel niet alleen gediend om definitieve antwoorden te geven, maar ook om begrip en het vermogen te ontwikkelen om nieuwe vragen te formuleren. Naarmate AI-systemen in staat worden de resultaten van dergelijk werk rechtstreeks te produceren, “houden deze doelen niet meer op één lijn te komen”. De verklaring beschrijft de problemen waarmee wiskundigen worden geconfronteerd als "vergelijkbaar met problemen waarmee andere wetenschappelijke en creatieve beroepen worden geconfronteerd, en wijzen op problemen waarmee de hele mensheid te maken zou kunnen krijgen."
Geen afwijzing van AI
De verklaring is met name geen oproep om de ontwikkeling van AI een halt toe te roepen. “AI biedt het potentieel om echt wiskundig onderzoek en begrip te verbeteren en te versnellen”, schrijven de auteurs, terwijl ze toegeven dat “wiskunde als beroep zich zal moeten aanpassen.”
De interventie landt op een geladen moment. Beweringen dat AI-systemen bekende open problemen hebben opgelost of grote vooruitgang hebben geboekt, hebben herhaaldelijk de krantenkoppen gehaald, en eerder dit jaar liet een afzonderlijk dispuut over een OpenAI-claim met betrekking tot het Navier-Stokes-probleem zien hoe controversieel dergelijke aankondigingen kunnen worden. De verklaring van de Fields Medallists is in feite het meest vooraanstaande antwoord van de wiskundegemeenschap op die dynamiek: een verzoek aan AI-laboratoria om te stoppen met het behandelen van eeuwenoude open problemen als vermeldingen op het klassement.
Of AI-bedrijven zullen reageren – door wiskundigen te raadplegen vóór aankondigingen, eerder werk te erkennen of benchmarks te heroverwegen – valt nog te bezien. Wat nu al duidelijk is, is dat de mensen die deze problemen het beste kennen, niet langer vanaf de zijlijn toekijken.
