Grupa 25 medalistów Fieldsa – z których każdy był pierwszym sygnatariuszem, zdobywcą najwyższego wyróżnienia w dziedzinie matematyki – opublikowała formalną deklarację, w której ostrzega, że wyścig o prezentowanie sztucznej inteligencji na wzorcach matematycznych szkodzi zarówno nauce matematyki, jak i społeczności, która ją wspiera. Oświadczenie zatytułowane „Poważne rozregulowanie sztucznej inteligencji w matematyce” opublikowano w piątek, a jednym z jego pierwszych sygnatariuszy jest Terence Tao, jeden z najbardziej wpływowych matematyków swojego pokolenia.
Deklaracja została opublikowana na stronie mathandai.org i według publicznej listy sygnatariuszy znajdującej się na tej stronie w ciągu jednego dnia zyskała ponad 1300 dodatkowych zwolenników z uniwersytetów i instytutów badawczych na całym świecie. Tao potwierdził swój udział w poście na swoim osobistym blogu, pisząc, że jest „dumny, że znalazł się na liście 25 pierwszych sygnatariuszy – wszyscy byli medalistami Fieldsa”. Dla każdego, kto śledzi najnowsze osiągnięcia w zakresie sztucznej inteligencji, interwencja ta stanowi jedną z najostrzejszych jak dotąd krytyki ze strony elitarnej matematyki na temat tego, jak laboratoria sztucznej inteligencji mierzą – i publikują – możliwości swoich modeli. Zdominowało ono piątkową dyskusję w Hacker News, wywołując setki komentarzy.
Co mówi Deklaracja
Sygnatariusze nie kwestionują, że systemy sztucznej inteligencji stały się niezwykle wydajne. „W ciągu ostatnich kilku miesięcy możliwości matematyczne szkół wyższych radykalnie się poprawiły, do tego stopnia, że mogą one rozwiązywać najważniejsze nierozstrzygnięte problemy w wielu dziedzinach matematyki” – stwierdza deklaracja. Sprzeciw dotyczy tego, co stanie się później: firmy zajmujące się sztuczną inteligencją będą wykorzystywać te rozwiązania jako punkty odniesienia dla konkurencji, co zdaniem autorów jest „szkodliwe dla nauki matematyki i społeczności matematycznej”.
Podstawowe twierdzenie jest surowe: „Cele firm zajmujących się sztuczną inteligencją i cele społeczności matematycznej są poważnie rozbieżne”.
W deklaracji dowodzi się, że rozwiązywanie słynnych problemów tradycyjnie służyło jako oznaka nowego spojrzenia – początek długiego, wspólnego procesu rozmów, dyskusji, uproszczeń i ewentualnego pisania podręczników – a nie jako cel sam w sobie. „Rozwiązywanie problemów jest jedynie narzędziem i środkiem zastępczym umożliwiającym osiągnięcie głównego celu, jakim jest zrozumienie pojęciowe i wgląd” – piszą autorzy. „Zapomnienie o tym w świecie sztucznej inteligencji może obrócić to narzędzie przeciwko głównemu celowi”.
Najczęściej cytowany wers oddaje niepokój: „masowa produkcja w coraz szybszym tempie stwierdzeń„ prawda/fałsz ”może zniszczyć podatny grunt, zamiast tchnąć życie w nowe pomysły”.
Uznanie autorstwa, plagiat i pośpieszne ogłoszenia
Sygnatariusze zgłaszają także zastrzeżenia praktyczne. „Często rozwiązania te ogłaszane są w pośpiechu, nie pozostawiając czasu na odpowiednie napisanie, wyodrębnienie nowych metod i pomysłów oraz przytoczenie odpowiednich wcześniejszych prac innych” – czytamy w deklaracji. „Jak w przypadku wszystkich zawodów kreatywnych, rodzi to poważne pytania dotyczące atrybucji i plagiatu”.
Autorzy ostrzegają przed efektem drugiego rzędu: bez „chętnych matematyków, którzy muszą zadbać o ich rozwój i integrację z kanonem matematycznym”, idee wymyślone przez sztuczną inteligencję nigdy nie zostaną w pełni rozwinięte, a „kluczowy ludzki łańcuch transmisji między matematykami zostałby utracony”.
Niezwykły pokaz pilności
Sam proces był niezwykły. Tao przyznał na swoim blogu, że oświadczenie powstało w wyniku dyskusji pomiędzy sygnatariuszami „w ciągu ostatniego tygodnia” i przeprosił za niezastosowanie bardziej konsultacyjnego procesu. „Zdecydowaliśmy, że sytuacja jest na tyle pilna, że musimy wydać oświadczenie raczej wcześniej niż później” – napisał.
Deklaracja wzorowana jest na wcześniejszej deklaracji z Lejdy, a organizatorzy wyraźnie zapraszają do składania kolejnych podpisów. Tao zwrócił także uwagę czytelników na niedawną relację z oświadczenia The Economist. Początkowych 25 sygnatariuszy było medalistami Fieldsa, co było zamierzonym sygnałem – najbardziej utytułowani badacze matematyki przemawiali jednym głosem. Szersza lista poparcia obejmuje już matematyków z MIT, ETH Zurich, Instytutu Maxa Plancka, Northwestern, NYU i dziesiątek innych instytucji.
Ostrzeżenie wykraczające poza matematykę
Chociaż stwierdzenie to jest zakorzenione w matematyce, autorzy przedstawiają je jako szablon znacznie szerszego problemu. „Jesteśmy świadkami ogólnego zagrożenia dla pracy intelektualnej polegającego na rozbieżności między rezultatem wykorzystania sztucznej inteligencji a jej pierwotnym celem” – czytamy w deklaracji.
Argument ten odbije się szerokim echem poza wydziałami matematyki. Autorzy zauważają, że w wielu zawodach lata szkolenia tradycyjnie służyły nie tylko uzyskaniu ostatecznych odpowiedzi, ale także rozwinięciu zrozumienia i umiejętności formułowania nowych pytań. W miarę jak systemy sztucznej inteligencji będą w stanie bezpośrednio generować wyniki takiej pracy, „cele te przestaną być zbieżne”. Deklaracja opisuje problemy stojące przed matematykami jako „podobne do problemów, przed którymi stoją inne zawody naukowe i twórcze, i wskazuje na problemy, przed którymi może stanąć cała ludzkość”.
To nie jest odrzucenie AI
Warto zauważyć, że oświadczenie nie jest wezwaniem do zaprzestania rozwoju sztucznej inteligencji. „Sztuczna inteligencja oferuje potencjał usprawnienia i przyspieszenia prawdziwego studiowania i rozumienia matematyki” – piszą autorzy, przyznając jednocześnie, że „matematyka jako zawód będzie musiała się dostosować”.
Interwencja następuje w naładowanym momencie. Twierdzenia, że systemy AI rozwiązały lub poczyniły znaczne postępy w zakresie słynnych otwartych problemów, wielokrotnie pojawiały się na pierwszych stronach gazet, a na początku tego roku oddzielny spór dotyczący twierdzenia OpenAI związanego z problemem Naviera-Stokesa pokazał, jak kontrowersyjne mogą stać się takie ogłoszenia. Deklaracja medalistów Fieldsa jest w rzeczywistości najstarszą reakcją społeczności matematycznej na tę dynamikę: prośbą, aby laboratoria zajmujące się sztuczną inteligencją zaprzestały traktowania wielowiekowych otwartych problemów jako wpisów na tablicach wyników.
Czas pokaże, czy firmy zajmujące się sztuczną inteligencją zareagują – konsultując się z matematykami przed ogłoszeniami, uznając wcześniejsze prace lub ponownie analizując standardy. Jasne jest już, że ludzie, którzy najlepiej znają te problemy, nie patrzą już z boku.
