Skupina 25 Fieldsových medailistů – každý první signatář, vítěz nejvyššího vyznamenání v matematice – zveřejnila formální prohlášení varující, že závod o předvádění umělé inteligence v matematických měřítcích poškozuje jak vědu o matematice, tak komunitu, která ji udržuje. Prohlášení nazvané „Hrozná chyba umělé inteligence v matematice“ bylo zveřejněno v pátek a mezi jeho prvními signatáři je Terence Tao, jeden z nejvlivnějších matematiků své generace.
Prohlášení je zveřejněno na mathandai.org a během jednoho dne shromáždilo více než 1 300 dalších podporovatelů z univerzit a výzkumných ústavů po celém světě, podle veřejného seznamu signatářů webu. Tao potvrdil svou účast v příspěvku na svém osobním blogu a napsal, že je „hrdý na to, že je mezi 25 počátečními signatáři – všichni Fields Medalists“. Pro každého, kdo sleduje [nejnovější vývoj umělé inteligence] (https://aibuzzwire.news), tato intervence představuje jednu z dosud nejostřejších kritik z elitní matematiky o tom, jak laboratoře umělé inteligence měří – a zveřejňují – schopnosti svých modelů. V pátek dominovala diskuzi na Hacker News a vyvolala stovky komentářů.
Co říká Deklarace
Signatáři nezpochybňují, že systémy umělé inteligence se staly pozoruhodně schopnými. "Během posledních několika měsíců se matematické schopnosti LLM dramaticky zlepšily, a to do té míry, že mohou vyřešit velké nevyřešené problémy v mnoha oblastech matematiky," uvádí prohlášení. Námitka se týká toho, co se stane dál: společnosti s umělou inteligencí používají tato řešení jako konkurenční měřítka, o kterých autoři tvrdí, že je „škodlivé pro vědu o matematice a pro matematickou komunitu“.
Základní tvrzení je strohé: "Cíle společností s umělou inteligencí a cíle matematické komunity jsou silně nesouladné."
Deklarace tvrdí, že řešení slavných problémů tradičně sloužilo spíše jako znamení nového náhledu – začátek dlouhého společného procesu rozhovorů, diskuzí, zjednodušování a případného psaní učebnic – spíše než jako konec sám o sobě. „Řešení problémů je pouze nástrojem a proxy pro dosažení primárního cíle koncepčního porozumění a vhledu,“ píší autoři. "Zapomenutí na to ve světě AI může obrátit nástroj proti primárnímu cíli."
Nejcitovanější věta zachycuje obavy: "sériová výroba stále rychlejším tempem 'pravdivých/nepravdivých' prohlášení by mohla zničit úrodnou půdu, místo aby vdechla život novým nápadům."
Uvádění autora, plagiátorství a uspěchaná oznámení
Signatáři také vznášejí praktickou stížnost. "Často jsou tato řešení oznámena ve spěchu, přičemž nezbývá čas na řádné sepsání, izolaci nových metod a nápadů a citování relevantní předchozí práce jiných," uvádí prohlášení. "Jako ve všech kreativních profesích to vyvolává vážné otázky týkající se připisování a plagiátorství."
Autoři varují před efektem druhého řádu: bez „ochotných matematiků, kteří se musí postarat o jejich rozvoj a integraci do matematického kánonu“, by se myšlenky vytvořené umělou inteligencí nikdy plně nerozvinuly a „zásadní lidský přenosový řetězec mezi matematiky by byl ztracen“.
Neobvyklá show naléhavosti
Samotný proces byl neobvyklý. Tao na svém blogu uznal, že prohlášení vyrostlo z diskusí mezi signatáři „během minulého týdne“ a omluvil se, že neproběhl konzultativnější proces. "Rozhodli jsme se, že naléhavost situace je taková, že musíme vydat prohlášení raději dříve než později," napsal.
Prohlášení se řídí vzorem dřívější Leidenské deklarace a organizátoři výslovně vyzývají k dalším podpisům. Tao také upozornil čtenáře na nedávné zpravodajství o prohlášení The Economist. Počátečních 25 signatářů byli všichni Fieldsovi medailisté, což byl záměrný signál – nejuznávanější badatelé v matematice mluvili jedním hlasem. Širší seznam potvrzení již zahrnuje matematiky z MIT, ETH Zurich, Institutu Maxe Plancka, Northwestern, NYU a desítek dalších institucí.
Varování za hranice matematiky
Zatímco toto tvrzení má kořeny v matematice, autoři jej rámují jako šablonu pro mnohem širší problém. "Jsme svědky obecného ohrožení duševní práce, s nesouladem mezi výsledkem použití umělé inteligence a jejím původním účelem," stojí v prohlášení.
Tento argument bude rezonovat daleko za hranicemi matematických kateder. V mnoha profesích, jak autoři poznamenávají, léta školení tradičně sloužila nejen k vytváření konečných odpovědí, ale také k rozvoji porozumění a schopnosti formulovat nové otázky. Jakmile se systémy umělé inteligence stanou schopnými produkovat výsledky takové práce přímo, „tyto cíle přestávají být v souladu“. Deklarace popisuje problémy, kterým čelí matematici, jako „podobné problémům, kterým čelí jiné vědecké a kreativní profese, a naznačuje problémy, kterým může čelit celé lidstvo“.
Ne odmítnutí AI
Je pozoruhodné, že prohlášení není výzvou k zastavení vývoje AI. "AI nabízí potenciál pro posílení a urychlení skutečného matematického studia a porozumění," píší autoři, a zároveň připouštějí, že "matematika jako profese se bude muset přizpůsobit."
Zásah přistává v nabitém okamžiku. Tvrzení, že systémy umělé inteligence vyřešily nebo udělaly velký pokrok v oslavovaných otevřených problémech, se opakovaně dostávaly do titulků a na začátku tohoto roku samostatný spor o tvrzení OpenAI související s problémem Navier–Stokes ukázal, jak sporná se taková oznámení mohou stát. Deklarace Fields Medallists je v podstatě tou nejvyšší odpovědí matematické komunity na tuto dynamiku: požadavek, aby laboratoře umělé inteligence přestaly považovat staletí staré otevřené problémy za záznamy ve výsledkové tabulce.
Zda společnosti s umělou inteligencí zareagují – konzultací s matematiky před oznámením, uznáním předchozí práce nebo přehodnocením benchmarků – se teprve uvidí. Již nyní je jasné, že lidé, kteří tyto problémy znají nejlépe, se již nedívají z povzdálí.
