W poniedziałek OpenAI ogłosiło utworzenie nowej niezależnej Grupy Doradczej ds. Matematyki i Sztucznej Inteligencji, której gospodarzem jest Instytut Studiów Zaawansowanych (IAS) w Princeton w stanie New Jersey i ujawniło, że ten sam model wewnętrzny, który stoi za kwestionowanym wynikiem Naviera-Stokesa, według własnego obliczenia, rozwiązał ponad 100 dodatkowych otwartych problemów w większości dziedzin matematyki.

Celem grupy jest zapewnienie matematykom formalnego kanału dostępu do prowadzonych przez firmę badań zorientowanych na matematykę w momencie, gdy społeczność naukowa jest otwarcie sfrustrowana sposobem publikowania tych wyników. „Ta grupa będzie pomostem łączącym społeczność matematyczną i szerszą opinię publiczną, dając matematykom głos w sprawie naszych dalszych działań” – stwierdził OpenAI w swoim ogłoszeniu, cytowanym przez TechCrunch. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

Odpowiedź na reakcję Naviera-Stokesa

Utworzenie grupy doradczej nastąpiło po nagłej publikacji rzekomego rozwiązania problemu Nagrody Milenijnej Naviera-Stokesa, co zadziwiło matematyków zarówno ze względu na ambicje, jak i tempo jej wydania. W praktyce nowa grupa OpenAI będzie pełnić głównie rolę doradczą: oceniać znaczenie nowych wyników i koordynować ich publikację, tak aby rzekome przełomy pojawiały się po analizie kontekstu i ekspertów, a nie jako niespodziewane ogłoszenia.

Kontrola nie ustąpiła. W poniedziałek Scientific American opublikował artykuł z pytaniem: „Czy OpenAI rozwiązało niewłaściwy problem Naviera-Stokesa?” — odzwierciedleniem tego, jak wiele niepewności wciąż otacza to twierdzenie, nawet wśród dziennikarzy naukowych, którzy uważnie je śledzą.

Wielu wybitnych matematyków szerzej wyraziło sprzeciw wobec szaleńczego tempa ostatnich twierdzeń. Na początku tego miesiąca matematycy, zdobywcy medalu 25 Fieldsa, podpisali list otwarty, w którym argumentowali, że laboratoria sztucznej inteligencji zagrażają intelektualnej pracy matematyków, gdy konkurują ze sobą o rozwiązania słynnych problemów. Problem nie polega na tym, że problemy zostaną rozwiązane – lecz na tym, że wielowiekowa kultura ostrożnych, zweryfikowanych publikacji jest niszczona przez laboratoria ścigające się o pierwsze strony gazet.

Moc doradcza — z twardymi ograniczeniami

Struktura grupy stara się zrównoważyć niezależność z wyraźnym zamiarem OpenAI, aby zachować kontrolę nad swoim programem badawczym. Członkowie nie otrzymają wynagrodzenia. Mogą udzielać niezamówionych porad, upubliczniać swoje poglądy i kontrolować własne członkostwo – przepisy, które zapewniają organowi pewną niezależność od firmy, która go utworzyła.

Ale grupa nie ma mocy, aby cokolwiek spowolnić. Jak to ujęto w poście OpenAI, „grupa nie będzie odpowiedzialna za doradzanie nam w zakresie tempa naszego wewnętrznego postępu w matematyce”.

Instytut Studiów Zaawansowanych podkreślił tę samą kwestię w swoim własnym oświadczeniu. „Chociaż udzielimy porad, nie mamy uprawnień decyzyjnych w żadnej firmie zajmującej się sztuczną inteligencją, a odpowiedzialność za decyzje podjęte przez jakąkolwiek firmę będzie spoczywać na tej firmie” – stwierdził instytut w oświadczeniu.

Ten podział pracy – porady bez autorytetu – jest kompromisem, który umożliwił partnerstwo. IAS zajmuje miejsce przy stole matematycznym; OpenAI trzyma kierownicę.

Dziewięciu członków, niewiele pokrywających się z krytykami

Pierwszymi członkami grupy zostało dziewięciu wybitnych matematyków. Warto zauważyć, że tylko jeden z nich — Camillo De Lellis z IAS — również podpisał się na początku tego miesiąca pod listem Fields Medalists, co oznacza, że ​​OpenAI nie tylko zwerbowało na salę swoich najgłośniejszych krytyków.

To, czy ma to znaczenie, zależy od tego, co grupa robi ze swoją platformą. Jej członkowie mogą publicznie nie zgadzać się z firmą, a projekt ich do tego zachęca. Ciało doradcze, które nigdy nie wyraża sprzeciwu, szybko rozstrzygnęłoby kwestię jego wartości.

Dlaczego to ma znaczenie

Oświadczenie to stanowi najnowszy punkt zapalny w debacie na temat tego, jak laboratoria sztucznej inteligencji powinny radzić sobie z twierdzeniami naukowymi generowanymi maszynowo. Model rzekomo rozwiązujący problem Nagrody Milenijnej to niezwykłe twierdzenie, a główny zarzut społeczności matematycznej ma charakter proceduralny: wyniki tej skali zasługują na weryfikację i wyważoną publikację, a nie ogłoszenia w prasie.

Weryfikacja jest prawdziwym wąskim gardłem. Sprawdzenie dowodu, którego wyprodukowanie zajmuje modelowe dni, może zająć ekspertom miesiące, a w matematyce nie ma infrastruktury do recenzowania zaprojektowanej z myślą o tej asymetrii. To jest właśnie problem, którego zadaniem grupa – ocena znaczenia i koordynacja uwolnienia – ma się zająć, przynajmniej w zasadzie.

Posunięcie OpenAI uznaje tę krytykę, jednocześnie powstrzymując się od utraty kontroli. Grupa może legitymizować, koordynować sposób prezentacji wyników i udostępniać platformę publiczną osobom z zewnątrz, ale firma zachowuje pełną władzę nad tym, do czego dążą jej modele i jak szybko. Twierdzenie o ponad 100 rozwiązanych problemach należy obecnie do organu, który może kształtować sposób ogłaszania problemów, a nie to, czy są one realizowane.

To, czy matematycy potraktują grupę doradczą jako znaczącą kontrolę, czy listek figowy, będzie zależeć od tego, co stanie się dalej: czy kolejne ważne twierdzenie nadejdzie wraz z imprimatur grupy i – co ważniejsze – z dowodami, które społeczność będzie mogła faktycznie zweryfikować.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →