OpenAI kondigde maandag een nieuwe onafhankelijke adviesgroep voor wiskunde en kunstmatige intelligentie aan, gehost bij het Institute for Advanced Study (IAS) in Princeton, New Jersey – en onthulde dat hetzelfde interne model achter het omstreden Navier-Stokes-resultaat, naar eigen zeggen, meer dan 100 extra open problemen op de meeste gebieden van de wiskunde heeft opgelost.
De groep is bedoeld om wiskundigen een formeel kanaal te geven in het wiskundegerichte onderzoek van het bedrijf op een moment dat de onderzoeksgemeenschap openlijk gefrustreerd is over de manier waarop die resultaten worden vrijgegeven. "Deze groep zal dienen als een brug naar de wiskundige gemeenschap en het bredere publiek, en wiskundigen een stem geven in de manier waarop we verder gaan", zei OpenAI in zijn aankondiging, zoals geciteerd door TechCrunch. Voor meer context over dit verhaal, zie ons laatste AI-ontwikkelingen.
Een reactie op de reactie van Navier-Stokes
De oprichting van de adviesgroep volgt op de abrupte publicatie van een geclaimde oplossing voor het Navier-Stokes Millennium Prize-probleem, een resultaat dat wiskundigen versteld deed staan, zowel vanwege de ambitie als vanwege het tempo van de vrijgave ervan. In de praktijk zal de nieuwe groep van OpenAI vooral een adviserende rol vervullen: het beoordelen van de betekenis van nieuwe resultaten en het coördineren van de publicatie ervan, zodat vermeende doorbraken tot stand komen met context- en deskundig onderzoek in plaats van als verrassende aankondigingen.
De controle is niet opgehouden. Scientific American publiceerde maandag een stuk met de vraag: "Heeft OpenAI het verkeerde Navier-Stokes-probleem opgelost?" – een weerspiegeling van hoeveel onzekerheid er nog steeds rond de bewering hangt, zelfs onder wetenschapsjournalisten die deze op de voet volgen.
Veel vooraanstaande wiskundigen hebben het waanzinnige tempo van recente beweringen in bredere zin betwist. Eerder deze maand ondertekenden 25 Fields Medal-winnende wiskundigen een open brief waarin ze stelden dat AI-laboratoria het intellectuele werk van wiskundigen bedreigen terwijl ze elkaar de loef afsteken met oplossingen voor beroemde problemen. Het gaat er niet om dat de problemen worden opgelost; het gaat erom dat een eeuwenoude cultuur van zorgvuldige, geverifieerde publicaties wordt overspoeld door laboratoria die racen om de krantenkoppen.
Advieskracht — met harde grenzen
De structuur van de groep probeert een evenwicht te vinden tussen de onafhankelijkheid en de duidelijke intentie van OpenAI om de controle over zijn onderzoeksagenda te behouden. Leden worden niet betaald. Ze kunnen ongevraagd advies geven, hun standpunten openbaar maken en hun eigen lidmaatschap controleren – bepalingen die het orgaan een zekere mate van onafhankelijkheid geven ten opzichte van het bedrijf dat het heeft opgericht.
Maar de groep heeft niet de macht om iets te vertragen. Zoals het bericht van OpenAI stelt: "de groep zal niet verantwoordelijk zijn voor het adviseren van ons over hoe we onze interne vooruitgang op het gebied van de wiskunde kunnen versnellen."
Het Institute for Advanced Study benadrukte hetzelfde punt in zijn eigen aankondiging. “Hoewel we advies zullen geven, hebben we bij geen enkel AI-bedrijf beslissingsbevoegdheid, en de verantwoordelijkheid voor de beslissingen die door welk bedrijf dan ook worden genomen, zal bij dat bedrijf liggen”, aldus het instituut in een verklaring.
Die taakverdeling – advies zonder autoriteit – is het compromis dat het partnerschap mogelijk heeft gemaakt. IAS krijgt een zetel aan de tafel voor wiskunde; OpenAI houdt het stuur in handen.
Negen leden, weinig overlap met de critici
Negen vooraanstaande wiskundigen zijn genoemd als eerste leden van de groep. Opvallend is dat slechts één van hen – Camillo De Lellis van IAS – eerder deze maand ook de brief van de Fields Medalists ondertekende, een teken dat OpenAI niet simpelweg zijn luidste critici in de zaal heeft gerecruteerd.
Of dat ertoe doet, hangt af van wat de groep met zijn platform doet. De leden kunnen het publiekelijk oneens zijn met het bedrijf, en het ontwerp nodigt hen daartoe uit. Een adviesorgaan dat nooit afwijkende meningen uit, zou de vraag naar de waarde ervan snel oplossen.
Waarom het ertoe doet
De aankondiging is het nieuwste vlampunt in een debat over hoe AI-laboratoria moeten omgaan met door machines gegenereerde wetenschappelijke claims. Een model dat beweert een millenniumprijsprobleem op te lossen is een buitengewone bewering, en de kernklacht van de wiskundige gemeenschap is procedureel: resultaten van deze omvang verdienen verificatie en afgemeten publicatie, geen aankondigingen in de pers.
Verificatie is het echte knelpunt. Een bewijs dat een model dagen kost om te produceren, kan menselijke experts maanden kosten om te controleren, en de wiskunde beschikt niet over een infrastructuur voor peer-review die voor die asymmetrie is ontworpen. Dat is precies het probleem dat het mandaat van de groep – het beoordelen van de betekenis en het coördineren van de vrijgave – moet aanpakken, althans in principe.
De zet van OpenAI erkent die kritiek, maar stopt ruimschoots met het toegeven van de controle. De groep kan legitimiteit verlenen, coördineren hoe resultaten worden gepresenteerd en buitenstaanders een publiek platform geven – maar het bedrijf behoudt de volledige autoriteit over wat zijn modellen nastreven en hoe snel. De claim van meer dan 100 opgeloste problemen berust nu bij een lichaam dat kan bepalen hoe het wordt aangekondigd, niet of het wordt gemaakt.
Of wiskundigen de adviesgroep als een betekenisvolle cheque of als een vijgenblad zullen beschouwen, zal afhangen van wat er daarna gebeurt: of de volgende grote claim komt met het imprimatur van de groep, en – nog belangrijker – met bewijzen die de gemeenschap daadwerkelijk kan verifiëren.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
