Terence Tao, de UCLA-wiskundige en Fields-medaillewinnaar die vaak wordt beschreven als een van de beste levende wiskundigen, heeft gewaarschuwd voor wat kunstmatige intelligentie met wiskundig onderzoek doet: de voorraad goede open problemen wordt ‘op een niet-hernieuwbare manier gedolven’, en de identificatie van waardevolle problemen – en niet hun oplossing – wordt de schaarste hulpbron op dit gebied. In een vierdelige draad op Mathstodon legde Tao maandag uit waarom hij gelooft dat het AI-tijdperk wiskundigen in de richting van geheimhouding kan duwen, waardoor eeuwen van open wetenschappelijke uitwisseling ongedaan kunnen worden gemaakt. Voor meer informatie over het onderzoeksfront kunt u de laatste AI-onderzoeksverslaggeving op onze startpagina volgen.

Een oceaan van problemen, een tekort aan drinkwater

Tao's argument begint met een paradox. De reeks mogelijke wiskundige problemen is oneindig, dus schaarste klinkt absurd. Maar kwantiteit is niet het probleem; kwaliteit wel. Iedereen kan naar believen eindeloze open problemen genereren, merkte Tao op, zoals het berekenen van het 10^10^10e cijfer van pi. De overgrote meerderheid is waardeloos: ze "tonen geen bijzondere neiging om verdere inzichten of verbanden met andere vragen te onthullen."

‘Een land of regio kan te kampen hebben met een ernstig tekort aan drinkwater en tegelijkertijd omgeven zijn door een enorme oceaan’, schreef hij.

Beslissen welke problemen aandacht verdienen, zo betoogde hij, is 'een langdurig, weloverwogen en subjectief proces', gebaseerd op historische ervaringen met wat eerder werk aan soortgelijke problemen feitelijk heeft opgeleverd. Centraal in dat oordeel staat wat Tao het ‘moeilijkheidslandschap’ noemt: weten welke vragen de huidige methoden gemakkelijk kunnen beantwoorden, welke echte inspanning vergen, en welke onmogelijk zijn, omdat de interessante problemen de neiging hebben zich aan de grenzen te bevinden.

AI vlakt het moeilijkhedenlandschap af

Dat landschap is precies wat AI aan het uitwissen is. AI-tools hebben ‘het moeilijkheidslandschap nu op veel gebieden van het onderwerp afgevlakt’, schreef Tao, ‘waardoor het vermogen om veelbelovende nieuwe problemen op dat gebied te lokaliseren, wordt vernietigd.’ Erger nog, er is geen stabiele grensmarkering waar AI-competentie eindigt: de technologie verandert te snel, en – in een scherpe grap – gaf Tao de onduidelijkheid van de grens gedeeltelijk toe aan ‘de weigering van AI-bedrijven om hun negatieve resultaten openbaar te maken, of het proces naar het verkrijgen van hun oplossingen te onthullen.’

Het resultaat is, volgens Tao, een racedynamiek waarvan hij rechtstreeks getuige is geweest: “zelfs het gerucht dat iemand aan een probleem werkt, kan een enorme hoeveelheid AI-aangedreven inspanningen teweegbrengen om het af te vlakken voordat het oorspronkelijke onderzoeksproject de tijd heeft om zijn volledige potentieel te bereiken.”

Het stimuleringsprobleem van de open wetenschap

Dat is waar de waarschuwing structureel wordt. Als het aankondigen van een onderzoeksrichting een AI-zwerm uitnodigt om het te ontginnen, kunnen wiskundigen eenvoudigweg stoppen met het aankondigen van iets. “De prikkels kunnen nu in de richting wijzen van het niet langer delen van veelbelovende onderzoeksrichtingen met de bredere gemeenschap”, schreef Tao – een uitkomst die volgens hem eeuwenlange traditie zou omkeren waarin de wiskunde vooruitgang boekte door het openlijk delen van problemen in tijdschriften, seminars en preprint-servers.

Willekeurig AI-gebruik, zo betoogde hij, levert overwinningen op de korte termijn op tegen kosten op de lange termijn: het lost "problemen op die voorhanden zijn, maar ten koste van het in stand houden van het ecosysteem voor de volgende golf van vooruitgang, of voor het begrijpen van de reeds geboekte vooruitgang."

Tao's voorstel: wijs problemen aan die de moeite waard zijn om zorgvuldig op te lossen

Tao stelt niet voor om AI uit de wiskunde te bannen; hij geeft toe dat dit waarschijnlijk onhaalbaar is. In plaats daarvan suggereert hij dat gemeenschappen klassen van problemen aanwijzen waarbij het oplossingsproces zelf van belang is, zodat een ruw antwoord zonder analyse van de gebruikte technieken, en zonder wat het onthult over nabijgelegen problemen, zou worden behandeld als 'van verwaarloosbare of zelfs negatieve waarde'.

Zijn analogie is met moderne voedselbanken, die niet langer willekeurige donaties accepteren alleen maar omdat ze technisch eetbaar zijn, maar in plaats daarvan expliciete normen handhaven voor welke bijdragen daadwerkelijk nuttig zijn.

In een antwoord aan een commentator voegde Tao een gerelateerde observatie toe: traditionele geautomatiseerde stellingbewijzers "zijn niet erg goed in het bewijzen van stellingen", een vakgebied dat in plaats daarvan wordt gedomineerd door wat hij "geautomatiseerde stellingverificateurs" noemde - het verschil met LLM's is "grotendeels hun effectiviteit."

Een drukke week voor AI en wiskunde

De draad landt op een geladen moment. Het kwam dagen nadat OpenAI aankondigde dat een intern model een Lean-geverifieerd bewijs had geleverd dat Navier-Stokes-vloeistoffen in een eindige tijd kunnen ontploffen – een geclaimde mijlpaal in de richting van het Millenniumprijzenprobleem die volgens wiskundigen van de NYU, wier werk de basis vormde van de inspanning, zich ontvouwde zonder de juiste kredietwaardigheid, een dispuut dat wordt behandeld door het tijdschrift Science en hier op AI Buzz Wire. Tao is het hele jaar een zorgvuldige chroniqueur van deze transitie geweest en heeft een veelgelezen essay gepubliceerd over wiskunde in het tijdperk van AI.

Zijn nieuwe post scherpt dat argument vanuit een nieuwe invalshoek aan: het risico is niet dat AI alles oplost, maar dat het de eindige catalogus van problemen die de moeite waard zijn om op te lossen, onverdiend en ongeanalyseerd, opslokt – waardoor de volgende generatie wiskundigen met een oceaan van het waardeloze soort achterblijft.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →