OpenAI tillkännagav i måndags en ny oberoende rådgivande grupp för matematik och artificiell intelligens, värd vid Institute for Advanced Study (IAS) i Princeton, New Jersey - och avslöjade att samma interna modell bakom dess omstridda Navier-Stokes-resultat har, av egen räkning, löst mer än 100 ytterligare öppna problem inom de flesta områden inom matematiken.
Gruppen är tänkt att ge matematiker en formell kanal in i företagets matematikorienterade forskning i ett ögonblick då forskarvärlden är öppet frustrerad över hur dessa resultat släpps. "Den här gruppen kommer att fungera som en bro till det matematiska samhället och en bredare allmänhet, och ge matematiker en röst i hur vi går vidare", sa OpenAI i sitt tillkännagivande, som citeras av TechCrunch. For more context on this story, see our ongoing breaking AI news.
Ett svar på Navier-Stokes-reaktionen
Den rådgivande gruppens skapelse följer den abrupta publiceringen av en påstådd lösning på problemet med Navier-Stokes Millennium Prize, ett resultat som häpnade matematiker både för dess ambition och för takten i dess utgivning. I praktiken kommer OpenAI:s nya grupp mestadels att ha en rådgivande roll: att bedöma betydelsen av nya resultat och koordinera deras release, så att påstådda genombrott kommer med sammanhang och expertgranskning snarare än som överraskande meddelanden.
Granskningen har inte släppt. Scientific American publicerade ett stycke på måndagen som frågade "Löste OpenAI fel Navier-Stokes-problem?" — en återspegling av hur mycket osäkerhet som fortfarande finns kring påståendet även bland vetenskapsjournalister som följer det noggrant.
Många framstående matematiker har tagit strid med den frenetiska takten i de senaste påståendena mer allmänt. Tidigare den här månaden undertecknade 25 Fields-medaljvinnande matematiker ett öppet brev där de hävdade att AI-labb hotar matematikers intellektuella arbete när de tävlar om att utveckla varandra med lösningar på kända problem. Oron är inte att problemen löses – det är att en månghundraårig kultur av noggrann, verifierad publicering ångras av labb som tävlar efter rubriker.
Rådgivande kraft — med hårda gränser
Gruppens struktur försöker balansera oberoende med OpenAI:s tydliga avsikt att behålla kontrollen över sin forskningsagenda. Medlemmar kommer inte att få betalt. De kan erbjuda oönskade råd, offentliggöra sina åsikter och kontrollera sitt eget medlemskap – bestämmelser som ger organet ett mått av oberoende från företaget som skapade det.
Men gruppen har ingen makt att bromsa något. Som OpenAI:s inlägg uttrycker det, "gruppen kommer inte att ansvara för att ge oss råd om hur vi ska takta våra interna framsteg inom matematik."
Institutet för avancerade studier betonade samma punkt i sitt eget tillkännagivande. "Även om vi kommer att ge råd har vi inte beslutsfattande makt på något AI-företag, och ansvaret för de beslut som fattas av ett företag kommer att vila på det företaget", sa institutet i ett uttalande.
Den arbetsfördelningen – rådgivning utan auktoritet – är kompromissen som gjorde partnerskapet möjligt. IAS får plats vid bordet för matematik; OpenAI behåller ratten.
Nio medlemmar, lite överlappning med kritikerna
Nio framstående matematiker har utsetts som första medlemmar i gruppen. Noterbart är att bara en av dem - IAS:s Camillo De Lellis - också undertecknade Fields Medalists brev tidigare denna månad, ett tecken på att OpenAI inte bara har rekryterat sina mest högljudda kritiker till rummet.
Om det spelar någon roll beror på vad gruppen gör med sin plattform. Dess medlemmar kan offentligt inte hålla med företaget, och designen inbjuder dem till. Ett rådgivande organ som aldrig uttrycker oliktänkande skulle snabbt lösa frågan om dess värde.
Varför det är viktigt
Tillkännagivandet är den senaste flampunkten i en debatt om hur AI-laboratorier ska hantera maskingenererade vetenskapliga påståenden. En modell som påstår sig lösa ett problem med Millenniumpriset är ett extraordinärt påstående, och den matematiska gemenskapens kärnanvändning är processuell: resultat av denna storleksordning förtjänar verifiering och uppmätt release, inte presscykelmeddelanden.
Verifiering är den verkliga flaskhalsen. Ett bevis som tar en modell dagar att producera kan ta mänskliga experter månader att kontrollera, och matematiken har ingen peer-review-infrastruktur utformad för den asymmetrin. Det är just det problemet som gruppens mandat – att bedöma betydelse och samordna frisläppandet – är byggt för att lösa, åtminstone i princip.
OpenAI:s drag erkänner den kritiken samtidigt som det är långt ifrån att medge kontroll. Gruppen kan ge legitimitet, samordna hur resultat presenteras och ge utomstående en offentlig plattform – men företaget behåller full auktoritet över vad dess modeller eftersträvar och hur snabbt. Påståendet om 100-plus lösta problem sitter nu med en kropp som kan forma hur det tillkännages, inte om det görs.
Huruvida matematiker behandlar den rådgivande gruppen som en meningsfull kontroll eller ett fikonlöv beror på vad som händer härnäst: om nästa stora påstående kommer med gruppens imprimatur, och - ännu viktigare - med bevis som samhället faktiskt kan verifiera.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
