Terence Tao, matematik a Fields Medalist z UCLA, často označovaný za jednoho z nejlepších žijících matematiků, vydal varování před tím, co umělá inteligence dělá s matematickým výzkumem: zásoba dobrých otevřených problémů se „těží neobnovitelným způsobem“ a identifikace hodnotných problémů – nikoli jejich řešení – se stává nejvzácnějším zdrojem oboru. Ve čtyřdílném vláknu na Mathstodon v pondělí Tao vysvětlil, proč věří, že éra umělé inteligence může tlačit matematiky k utajení a zvrátit staletí otevřené vědecké výměny. Pro více informací o výzkumu sledujte nejnovější pokrytí výzkumu AI na naší domovské stránce.
Oceán problémů, nedostatek pitné vody
Taův argument začíná paradoxem. Množina možných matematických problémů je nekonečná, takže nedostatek zní absurdně. Ale problém není kvantita, ale kvalita. Kdokoli může vytvářet nekonečné otevřené problémy podle libosti, poznamenal Tao, jako je výpočet 10^10^10 číslice pí. Drtivá většina je bezcenná: „nevykazují žádný zvláštní sklon odhalovat jakékoli další poznatky nebo souvislosti s jinými otázkami“.
"Země nebo region může trpět kritickým nedostatkem pitné vody a zároveň být obklopen obrovským oceánem," napsal.
Rozhodování o tom, které problémy si zaslouží pozornost, je podle něj „zdlouhavý, záměrný a subjektivní proces“, který vychází z historické zkušenosti s tím, co dřívější práce na podobných problémech ve skutečnosti přinesly. Ústředním bodem tohoto úsudku je to, co Tao nazývá „krajinou obtíží“ – vědět, na které otázky mohou současné metody snadno odpovědět, které vyžadují skutečné úsilí a které jsou nemožné, protože zajímavé problémy mají tendenci žít na hranicích.
Umělá inteligence zplošťuje krajinu obtížnosti
Tato krajina je přesně to, co AI maže. Nástroje umělé inteligence „srovnaly nyní obtížnost v mnoha oblastech tohoto tématu,“ napsal Tao, „a tím zničily schopnost lokalizovat slibné nové problémy v této oblasti.“ Horší je, že neexistuje žádné stabilní hraniční označení, kde kompetence AI končí: technologie se mění příliš rychle a – ve špičatém úderu – Tao obviňoval nejasnost hranice zčásti na „odmítnutí společností AI zveřejnit své negativní výsledky nebo odhalit proces vedoucí k získání jejich řešení“.
Výsledkem je, jak říká Tao, rasová dynamika, které byl přímo svědkem: „i pověst o někom, kdo pracuje na problému, může vyvolat obrovské množství úsilí poháněného umělou inteligencí k jeho zploštění, než původní výzkumný projekt stihne dosáhnout svého plného potenciálu.“
Problém pobídek pro otevřenou vědu
Zde se varování mění na strukturální. Pokud oznámení směru výzkumu pozve roj AI, aby ho odtěžil, matematici mohou jednoduše přestat cokoliv oznamovat. "Pobídky mohou nyní směřovat směrem k tomu, že již nebudeme sdílet žádné slibné výzkumné směry s širší komunitou," napsal Tao - výsledek, který poznamenal, by zvrátil staletí tradice, v níž matematika postupovala prostřednictvím otevřeného sdílení problémů v časopisech, na seminářích a na předtiskových serverech.
Nerozlišující používání umělé inteligence, tvrdil, přináší krátkodobé výhry za dlouhodobé náklady: řeší „problémy, které máme po ruce, ale za cenu udržení ekosystému pro další vlnu pokroku nebo za cenu pochopení již dosaženého pokroku“.
Taoův návrh: Označte problémy, které stojí za to řešit opatrně
Tao nenavrhuje zákaz umělé inteligence z matematiky – připouští, že je to pravděpodobně neproveditelné. Místo toho navrhuje, aby komunity určily třídy problémů, kde záleží na samotném procesu řešení, takže syrová odpověď bez analýzy použitých technik a bez toho, co odhaluje o blízkých problémech, by byla považována za „zanedbatelnou nebo dokonce negativní hodnotu“.
Jeho analogií jsou moderní potravinové banky, které již nepřijímají svévolné dary jen proto, že jsou technicky poživatelné, místo toho zachovávají explicitní standardy pro to, jaké příspěvky jsou skutečně užitečné.
V odpovědi komentátorovi Tao přidal související postřeh: tradiční automatické dokazování teorémů „nejsou moc dobré v dokazování teorémů“, což je oblast, které místo toho dominuje to, co nazval „automatické ověřovače teorémů“ – rozdíl oproti LLM je „z velké části jejich účinnost“.
Přeplněný týden pro umělou inteligenci a matematiku
Vlákno dosedne v nabitém okamžiku. Stalo se to několik dní poté, co OpenAI oznámilo, že interní model vytvořil Leanově ověřený důkaz, že Navier-Stokesovy tekutiny mohou vybuchnout v konečném čase – proklamovaný milník směrem k problému tisíciletí, o kterém matematici z New Yorku, jehož práce stojí za tímto úsilím, říkají, že se rozvinul bez patřičného uznání, což je spor pokrytý časopisem Science a zde na AI Buzz Wire. Tao byl celý rok pečlivým kronikářem tohoto přechodu a publikoval široce čtenou esej o matematice ve věku umělé inteligence.
Jeho nový příspěvek tento argument vyostřuje z nového úhlu: riziko nespočívá v tom, že umělá inteligence vyřeší vše, ale v tom, že spotřebovává, nezasloužený a neanalyzovaný, konečný katalog problémů, které stojí za to vyřešit – a zanechává tak příští generaci matematiků oceán bezcenného druhu.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
