OpenAI v pondělí oznámila novou nezávislou poradní skupinu pro matematiku a umělou inteligenci, která je hostitelem Institutu pro pokročilé studium (IAS) v Princetonu v New Jersey – a odhalila, že stejný interní model, který stojí za jejím sporným výsledkem Navier-Stokes, vyřešil podle vlastního počtu více než 100 dalších otevřených problémů ve většině oblastí matematiky.
Skupina má poskytnout matematikům formální kanál do matematicky orientovaného výzkumu společnosti ve chvíli, kdy je výzkumná komunita otevřeně frustrovaná tím, jak jsou tyto výsledky zveřejňovány. „Tato skupina bude sloužit jako most k matematické komunitě a širší veřejnosti a dá matematikům možnost vyjádřit se k tomu, jak se posouváme vpřed,“ uvedl OpenAI ve svém oznámení, jak jej cituje TechCrunch. For more context on this story, see our ongoing more AI stories.
Odpověď na odpor Navier-Stokes
Vznik poradní skupiny následuje po náhlém zveřejnění nárokovaného řešení problému Navier-Stokes Millennium Prize, což je výsledek, který ohromil matematiky jak pro své ambice, tak pro rychlost jeho vydání. V praxi bude nová skupina OpenAI sloužit převážně jako poradní role: bude posuzovat význam nových výsledků a koordinovat jejich zveřejnění, aby údajné průlomové objevy přicházely s kontextem a odborným zkoumáním spíše než jako překvapivá oznámení.
Kontrola nepolevila. Scientific American v pondělí zveřejnil článek s dotazem „Vyřešila OpenAI špatný problém Navier-Stokes?“ — odraz toho, kolik nejistoty stále obklopuje tvrzení, dokonce i mezi vědeckými novináři, kteří jej pozorně sledují.
Mnoho prominentních matematiků se postavilo proti zběsilému tempu nedávných tvrzení v širším měřítku. Začátkem tohoto měsíce podepsali matematici ověnčení 25 Fields Medal otevřený dopis, v němž argumentovali tím, že laboratoře umělé inteligence ohrožují intelektuální práci matematiků, když mezi sebou soutěží o řešení slavných problémů. Nejde o to, aby se problémy vyřešily – jde o to, že staletí stará kultura pečlivého, ověřeného publikačního obsahu je převálcována laboratořemi, které se snaží získat titulky.
Poradní síla — s pevnými limity
Struktura skupiny se snaží vyvážit nezávislost s jasným záměrem OpenAI udržet si kontrolu nad svou výzkumnou agendou. Členové nebudou vypláceni. Mohou nabízet nevyžádané rady, zveřejňovat své názory a kontrolovat své vlastní členství – ustanovení, která orgánu poskytují určitou míru nezávislosti na společnosti, která jej vytvořila.
Ale skupina nemá sílu cokoliv zpomalit. Jak uvádí příspěvek OpenAI, "skupina nebude zodpovědná za to, aby nám radila, jak urychlit náš vnitřní pokrok v matematice."
Institut pro pokročilé studium byl důrazný ve stejném bodě ve svém vlastním oznámení. "I když budeme radit, nemáme rozhodovací pravomoc v žádné společnosti s umělou inteligencí a odpovědnost za rozhodnutí učiněná kteroukoli společností bude spočívat na této společnosti," uvedl institut v prohlášení.
Tato dělba práce – rada bez autority – je kompromisem, který umožnil partnerství. IAS dostane místo u stolu pro matematiku; OpenAI drží volant.
Devět členů, malý přesah s kritiky
Jako první členové skupiny bylo jmenováno devět prominentních matematiků. Je pozoruhodné, že pouze jeden z nich – Camillo De Lellis z IAS – také podepsal dopis Fields Medalists počátkem tohoto měsíce, což je známkou toho, že OpenAI jednoduše nenaverbovala své nejhlasitější kritiky do místnosti.
Zda na tom záleží, závisí na tom, co skupina dělá se svou platformou. Její členové mohou se společností veřejně nesouhlasit a design je k tomu vyzývá. Poradní orgán, který nikdy nevyslovuje nesouhlas, by rychle vyřešil otázku jeho hodnoty.
Proč na tom záleží
Toto oznámení je posledním bodem v debatě o tom, jak by laboratoře umělé inteligence měly zacházet se strojově generovanými vědeckými tvrzeními. Model, který tvrdí, že vyřeší problém ceny tisíciletí, je mimořádným tvrzením a hlavní stížnost matematické komunity je procedurální: výsledky takového rozsahu si zaslouží ověření a měřené zveřejnění, nikoli oznámení v tiskovém cyklu.
Ověření je skutečným úzkým hrdlem. Důkaz, jehož vytvoření trvá modelové dny, může lidským expertům trvat měsíce, než se ověří, a matematika nemá žádnou infrastrukturu pro vzájemné hodnocení navrženou pro tuto asymetrii. To je přesně ten problém, na který je, alespoň v zásadě, postaven mandát skupiny – posuzování významu a koordinace uvolnění.
Krok OpenAI uznává tuto kritiku, aniž by se vzdal kontroly. Skupina může propůjčit legitimitu, koordinovat způsob prezentace výsledků a poskytnout cizincům veřejnou platformu – ale společnost si ponechává plnou pravomoc nad tím, co její modely sledují a jak rychle. Tvrzení o více než 100 vyřešených problémech nyní sedí na těle, které může utvářet, jak bude oznámeno, nikoli zda bude vyrobeno.
Zda matematici budou poradní skupinu považovat za smysluplnou kontrolu nebo jako fíkový list, bude záležet na tom, co se stane dál: zda další velké tvrzení dorazí s imprimatur skupiny a – což je důležitější – s důkazy, které si komunita může skutečně ověřit.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
