Terence Tao, matematyk z UCLA i medalista Fieldsa, często określany jako jeden z najwybitniejszych żyjących matematyków, przestrzegł, co sztuczna inteligencja robi z badaniami matematycznymi: zasoby dobrych, otwartych problemów są „eksploatowane w sposób nieodnawialny”, a identyfikacja wartościowych problemów – a nie ich rozwiązanie – staje się najrzadszym zasobem w tej dziedzinie. W poniedziałek w czteroczęściowym wątku na portalu Mathstodon Tao wyjaśnił, dlaczego jego zdaniem era sztucznej inteligencji może popchnąć matematyków w stronę tajemnicy, odwracając wieki otwartej wymiany naukowej. Więcej informacji na temat badań znajdziesz w najnowszym relacie badań nad sztuczną inteligencją na naszej stronie głównej.
Ocean problemów, niedobór wody pitnej
Argument Tao zaczyna się od paradoksu. Zbiór możliwych problemów matematycznych jest nieskończony, zatem niedostatek wydaje się absurdalny. Ale nie ilość jest najważniejsza – liczy się jakość. Tao zauważył, że każdy może dowolnie generować nieskończone otwarte problemy, takie jak obliczenie 10^10^10 cyfry pi. Zdecydowana większość jest bezwartościowa: „nie wykazują szczególnej skłonności do ujawniania dalszych spostrzeżeń lub powiązań z innymi kwestiami”.
„Kraj lub region może cierpieć z powodu krytycznego niedoboru wody pitnej, będąc jednocześnie otoczonym przez ogromny ocean” – napisał.
Podejmowanie decyzji, które problemy zasługują na uwagę, jest – argumentował – „długim, przemyślanym i subiektywnym procesem”, opartym na doświadczeniu historycznym i tym, co faktycznie przyniosły wcześniejsze prace nad podobnymi problemami. Kluczowe dla tej oceny jest to, co Tao nazywa „krajobrazem trudności” – wiedza, na jakie pytania można łatwo odpowiedzieć obecnymi metodami, które wymagają prawdziwego wysiłku, a które są niemożliwe, ponieważ interesujące problemy zwykle żyją na granicach.
Sztuczna inteligencja spłaszcza krajobraz trudności
Ten krajobraz jest dokładnie tym, co wymazuje sztuczna inteligencja. Narzędzia sztucznej inteligencji „spłaszczyły obecnie krajobraz trudności w wielu obszarach tematu” – napisał Tao – „niszcząc w ten sposób zdolność lokalizowania nowych, obiecujących problemów w tym obszarze”. Co gorsza, nie ma stabilnego wyznaczenia granicy tam, gdzie kończą się kompetencje AI: technologia zmienia się zbyt szybko i – ostrym dźgnięciem – Tao za niejasność granicy obwinia częściowo „odmowę firm zajmujących się sztuczną inteligencją ujawnienia swoich negatywnych wyników lub ujawnienia procesu prowadzącego do uzyskania rozwiązań”.
Rezultatem, według Tao, jest dynamika wyścigu, której był bezpośrednio świadkiem: „nawet plotka o kimś pracującym nad problemem może wywołać ogromne wysiłki oparte na sztucznej inteligencji, aby go spłaszczyć, zanim pierwotny projekt badawczy zdąży osiągnąć swój pełny potencjał”.
Problem zachęt w ramach otwartej nauki
W tym miejscu ostrzeżenie nabiera charakteru strukturalnego. Jeśli ogłoszenie kierunku badań zaprosi rój sztucznej inteligencji do jego rozminowania, matematycy mogą po prostu przestać cokolwiek ogłaszać. „Zachęty mogą teraz wskazywać na to, że nie będziemy już dzielić się z szerszą społecznością żadnymi obiecującymi kierunkami badań” – napisał Tao – co, jak zauważył, odwróci wielowiekową tradycję, w której matematyka rozwijała się dzięki otwartemu dzieleniu się problemami w czasopismach, seminariach i na serwerach przedpremierowych.
Argumentował, że masowe wykorzystanie sztucznej inteligencji zapewnia krótkoterminowe zwycięstwa przy długoterminowych kosztach: rozwiązuje „istniejące problemy, ale kosztem utrzymania ekosystemu na następną falę postępu lub zrozumienia już osiągniętego postępu”.
Propozycja Tao: wyznacz problemy, które warto rozwiązać ostrożnie
Tao nie proponuje zakazu sztucznej inteligencji z matematyki — przyznaje, że jest to prawdopodobnie niewykonalne. Zamiast tego sugeruje, aby społeczności wyznaczyły klasy problemów, dla których sam proces rozwiązywania ma znaczenie, tak aby surowa odpowiedź bez analizy zastosowanych technik i bez tego, co ujawnia na temat pobliskich problemów, byłaby traktowana jako „o znikomej lub nawet negatywnej wartości”.
Jego analogią są nowoczesne banki żywności, które nie przyjmują już arbitralnych darowizn tylko dlatego, że są one technicznie jadalne, zamiast tego utrzymują wyraźne standardy określające, jakie datki są rzeczywiście przydatne.
W odpowiedzi dla komentatora Tao dodał powiązaną obserwację: tradycyjne zautomatyzowane weryfikatory twierdzeń „nie są zbyt dobre w dowodzeniu twierdzeń”, a dziedzina ta jest zdominowana przez tak zwane „automatyczne weryfikatory twierdzeń” – różnica w porównaniu z LLM polega na „w dużej mierze ich skuteczności”.
Zatłoczony tydzień poświęcony sztucznej inteligencji i matematyce
Wątek ląduje w naładowanym momencie. Nastąpiło to kilka dni po ogłoszeniu przez OpenAI, że model wewnętrzny przedstawił zweryfikowany przez Lean dowód na to, że płyny Naviera-Stokesa mogą wybuchnąć w skończonym czasie – co stanowiło rzekomy kamień milowy w kierunku problemu nagrody milenijnej, który według matematyków z Uniwersytetu Nowojorskiego, którego prace leżały u podstaw tego wysiłku, został rozwiązany bez odpowiedniego uznania, co stanowi spór opisany w magazynie Science i tutaj w AI Buzz Wire. Tao przez cały rok uważnie kronikował tę transformację, publikując poczytny esej na temat matematyki w dobie sztucznej inteligencji.
Jego nowy post wyostrza tę argumentację z nowego punktu widzenia: ryzyko nie polega na tym, że sztuczna inteligencja rozwiąże wszystko, ale że pochłonie, niezasłużony i nieprzeanalizowany, skończony katalog problemów wartych rozwiązania, pozostawiając następnemu pokoleniu matematyków ocean bezwartościowego rodzaju.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
