Wiskundige Frank Calegari heeft een botte beoordeling gepubliceerd van wat kunstmatige intelligentie met zijn vakgebied heeft gedaan, waarbij hij op de invloedrijke blog van Terence Tao betoogt dat de publicatie van meer dan 700 onderzoeksartikelen door OpenAI op 6 oktober "een keerpunt in de geschiedenis van de wiskunde" was. Het bericht, getiteld "Wiskunde is veranderd. Laten we ons zo gedragen", verscheen zaterdag en bereikte snel de voorpagina van Hacker News, waar het honderden reacties trok. De kernboodschap van het essay is zowel een uitdaging voor wiskundigen als voor AI-bedrijven – zie ons AI-onderzoeksnieuws voor de voortdurende berichtgeving over die botsing.

“AI is nu onmiskenbaar in staat baanbrekende bijdragen te leveren op veel gebieden van de wiskunde”, schrijft Calegari. "Dus waarom zijn sommige wiskundigen zo ongelukkig?" Zijn antwoord is niet wat je zou verwachten van een van de meest prominente sceptici op dit gebied van door AI gegenereerd onderzoek.

Een bot oordeel over de papieren zelf

Calegari's kritiek op de OpenAI-release is vernietigend op het gebied van vakmanschap en gemeenschapsnormen. De artikelen, zo schrijft hij, zijn "afschuwelijk geschreven en schenden de verwachtingen van de gemeenschap ten aanzien van attributie. Sommige ervan hebben het zelfs bij het verkeerde eind." De klacht is niet dat AI geen wiskunde kan doen – hij geeft toe dat dit wel kan – maar dat het wel wiskunde doet zonder de standaarden te respecteren die wiskundige literatuur bruikbaar maken.

Zijn remedie is uitgesproken praktisch. Wiskundigen "hebben veel meer controle over de manier waarop we wiskundigen inhuren, artikelen publiceren en studenten opleiden dan over het gedrag van biljoenenbedrijven", betoogt hij, en dat is waar de energie van het veld naar toe zou moeten gaan.

'Er is beweerd dat alles bewezen is'

De meest opvallende passage in het essay is persoonlijk. Calegari merkt op dat geen enkel van de grote openstaande problemen die hij tijdens zijn carrière publiekelijk heeft genoemd – in lezingen, lezingen, artikelen of subsidievoorstellen – ‘onaangetast bleef door de aankondiging. Er werd beweerd dat alles bewezen was.’

"Ik had verwacht dat ik er een paar in de lijst zou zien", schrijft hij. 'Maar niet allemaal. Niet allemaal tegelijk. Niet zo nonchalant.' Voor een werkende wiskundige is de ervaring van het zien hoe elk probleem dat je hebt aangeraakt, wordt meegesleurd in de cyclus van de bedrijfspers, desoriënterend op een manier die abstracte argumenten over AI-risico niet hebben.

Het periodiek systeem is geen chemie

Calegari komt krachtig terug op het idee dat het claimen van de beroemde bezienswaardigheden van het veld betekent dat het veld klaar is. De OpenAI-papers, zo merkt hij op, hebben 'nauwelijks een deuk' gemaakt in de algemene problemen van functionaliteit en wederkerigheid in het Langlands-programma – een van de diepste structuren in de moderne getaltheorie.

Maar zelfs als de release elk probleem in het Langlands-programma had opgelost, schrijft hij, zou het voorstellen dat dit de 'getaltheorie zou hebben opgelost' 'net zo naïef zijn als zeggen dat de constructie van het periodiek systeem de chemie zou hebben opgelost'. Het is een argument dat wiskundigen aan het publiek moeten voorleggen, suggereert hij: centrale problemen zijn slechts de meest zichtbare toppen, en de bergketen reikt tot ver daarbuiten.

Een waarschuwing uit de geschiedenis van de groepentheorie

Het historische anker van het essay is de classificatie van eindige eenvoudige groepen – een saga die Calegari van binnenuit kent. In 1972 kondigde Daniel Gorenstein een programma aan voor de classificatie. Na ongeveer een decennium van hectische activiteit werd de classificatie in 1983 voltooid – voortijdig, zo bleek, waarbij het geval van quasithin-groepen pas klaar was toen Aschbacher en Smith deze ongeveer twintig jaar later voltooiden.

De classificatie was 'in veel opzichten een enorm succes', schrijft Calegari, 'maar het was ook een mislukking'. De aankondiging dat het beroemde probleem verdwenen was, koelde de belangstelling voor het onderwerp af, en wiskundigen richtten hun aandacht ergens anders op. Toch bleven er rijke vragen over, waaronder wat hij identificeert als de favoriet van John Conway: waarom bestaat de Monster-groep? Voor sommige vakgebieden, zo suggereert Calegari, kan de OpenAI-dump precies hetzelfde aanvoelen als de classificatie voor groepstheoretici.

Wat Calegari wil dat wiskundigen doen

Het essay sluit af met een programma in plaats van met een klaagzang. Het veld heeft inspanningen nodig zoals de door Gorenstein-Lyons-Solomon herziene behandeling van de classificatie – het geduldige, uit meerdere delen bestaande werk om een ​​geclaimd resultaat daadwerkelijk solide te maken. En het moet zich verzetten tegen het uitspreken van het onderwerp ‘klaar’, want met de nieuwe beschikbare hulpmiddelen is de wiskunde ‘rijp voor verder onderzoek’.

De oude paden die gemist worden door wat Calegari de ‘galactische bypass’ van AI-ondersteunde bewijzen noemt, bestaan ​​nog steeds, betoogt hij, en wiskundigen zouden ze moeten opzoeken – en, cruciaal: ‘we moeten dat gedrag belonen als het gaat om het aanbieden van banen aan mensen.’ Het essay bevat een voetnoot van Tao waarin wordt opgemerkt dat het bericht aanvankelijk in een ander bestandsformaat is geschreven en met behulp van AI is geconverteerd, een kleine ironie die onderstreept hoe grondig de tools zijn doorgedrongen in het dagelijkse werk van het veld.

Onderdeel van een veel grotere afrekening

Het essay belandt te midden van een jaar van escalerende wrijving tussen wiskundigen en AI-laboratoria. AI Buzz Wire heeft eerder gerapporteerd over wiskundigen die bewijs eisten dat de modellen van OpenAI niet waren getraind op hun privédiscussies, over 25 Fields-medaillewinnaars, waaronder Terence Tao, die een "ernstige discrepantie" tussen AI en wiskunde verklaarden, over de zorgen van het Institute for Advanced Study over 377 van AI afgeleide wiskundige resultaten, en over Tao's eigen waarschuwingen dat AI niet-hernieuwbaar de voorraad goede open problemen van de wereld aan het ontginnen is.

Wat het nieuwe essay opmerkelijk maakt, is de verschuiving in houding. De dominante toon in eerdere reacties was alarm; Calegari's is aanpassing. De technologie, zo vertelt hij, gaat niet weg, de buitengewone claims gaan niet weg, en de enige variabele die het veld controleert is zijn eigen reactie: hoe het publiceert, hoe het opleidt en wie het inhuurt.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →