Un grup de 25 de medaliați Fields - fiecare semnatar inițial un câștigător al celei mai înalte onori de matematică - a publicat o declarație oficială în care avertizează că cursa pentru a prezenta inteligența artificială pe criterii matematice dăunează atât științei matematicii, cât și comunității care o susține. Declarația, intitulată „A Severe Misalignment of AI in Mathematics”, a fost difuzată vineri, iar printre semnatarii inițiali se numără Terence Tao, unul dintre cei mai influenți matematicieni ai generației sale.
Declarația este publicată pe mathandai.org și, într-o zi, a adunat peste 1.300 de susținători suplimentari de la universități și institute de cercetare din întreaga lume, potrivit listei publice de semnatari a site-ului. Tao și-a confirmat participarea într-o postare pe blogul său personal, scriind că este „mândru că se numără printre cei 25 de semnatari inițiali — toți medaliați Fields”. Pentru oricine urmărește cele mai recente dezvoltări AI, intervenția marchează una dintre cele mai ascuțite critici de până acum din cadrul matematicii de elită cu privire la modul în care laboratoarele AI măsoară – și publică – capacitățile modelelor lor. A dominat discuțiile de la Hacker News vineri, atrăgând sute de comentarii.
Ce spune Declarația
Semnatarii nu contestă faptul că sistemele AI au devenit remarcabil de capabile. „În ultimele luni, capacitățile matematice ale LLM s-au îmbunătățit dramatic, până la punctul în care pot rezolva probleme majore restante în multe domenii ale matematicii”, se arată în declarație. Obiecția este la ceea ce se întâmplă în continuare: companiile de inteligență artificială folosesc acele soluții ca repere competitive, despre care autorii susțin că este „în detrimentul științei matematicii și comunității matematice”.
Afirmația de bază este cruntă: „Obiectivele companiilor de inteligență artificială și obiectivele comunității matematice sunt grav nealiniate”.
Declarația susține că rezolvarea unor probleme celebre a servit în mod tradițional ca un semn al unei noi perspective - începutul unui lung proces comun de discuții, discuții, simplificare și eventuale scrieri de manuale - mai degrabă decât un scop în sine. „Rezolvarea problemelor este doar un instrument și un proxy pentru atingerea obiectivului principal de înțelegere și perspectivă conceptuală”, scriu autorii. „Uitarea acestui lucru în lumea AI poate întoarce instrumentul împotriva obiectivului principal.”
Cea mai citată rând surprinde îngrijorarea: „producția de masă în ritm din ce în ce mai rapid de afirmații „adevărat/fals” ar putea distruge terenul fertil în loc să dea viață ideilor noi”.
Atribuire, plagiat și Anunțuri în grabă
Semnatarii ridică și o plângere practică. „Adesea, aceste soluții sunt anunțate în grabă, fără a lăsa timp pentru o redactare adecvată, izolarea de noi metode și idei și citând lucrările anterioare relevante ale altora”, se arată în declarație. „Ca și în toate profesiile creative, acest lucru ridică întrebări severe privind atribuirea și plagiatul”.
Autorii avertizează asupra unui efect de ordinul doi: fără „matematicieni voiți care trebuie să aibă grijă de dezvoltarea și integrarea lor în canonul matematic”, ideile concepute de IA nu ar fi niciodată pe deplin dezvoltate, iar „lanțul crucial de transmisie umană dintre matematicieni s-ar pierde”.
Un spectacol neobișnuit de urgență
Procesul în sine a fost neobișnuit. Tao a recunoscut pe blogul său că declarația a apărut în urma discuțiilor dintre semnatari „în ultima săptămână” și și-a cerut scuze pentru că nu a derulat un proces mai consultativ. „Am decis că urgența situației a fost de așa natură încât trebuie să emitem o declarație mai devreme decât mai târziu”, a scris el.
Declarația urmează modelul declarației anterioare de la Leiden, iar organizatorii invită în mod explicit semnături suplimentare. De asemenea, Tao le-a îndrumat cititorilor la acoperirea recentă a declarației The Economist. Primii 25 de semnatari au fost toți medaliști Fields, un semnal deliberat - cei mai decorați cercetători din matematică vorbind cu o singură voce. Lista mai largă de aprobare include deja matematicieni de la MIT, ETH Zurich, Max Planck Institute, Northwestern, NYU și zeci de alte instituții.
Un avertisment dincolo de matematică
În timp ce afirmația are rădăcini în matematică, autorii o încadrează ca un șablon pentru o problemă mult mai largă. „Asistăm la o amenințare generală la adresa muncii intelectuale, cu o nealiniere între rezultatul utilizării AI și scopul său inițial”, se arată în declarație.
Argumentul va rezona cu mult dincolo de departamentele de matematică. În multe profesii, notează autorii, anii de pregătire au servit în mod tradițional nu numai pentru a produce răspunsuri finale, ci și pentru a dezvolta înțelegerea și capacitatea de a formula noi întrebări. Pe măsură ce sistemele AI devin capabile să producă rezultatele unei astfel de lucrări în mod direct, „aceste obiective încetează să se alinieze”. Declarația descrie problemele cu care se confruntă matematicienii ca fiind „asemănătoare cu problemele cu care se confruntă alte profesii științifice și creative și indică probleme cu care s-ar putea confrunta întreaga umanitate”.
Nu este o respingere a AI
În special, declarația nu este un apel la oprirea dezvoltării AI. „AI oferă potențialul de a îmbunătăți și accelera studiul și înțelegerea matematică autentică”, scriu autorii, recunoscând în același timp că „matematica ca profesie va trebui să se adapteze”.
Intervenția aterizează într-un moment încărcat. Afirmațiile conform cărora sistemele AI au rezolvat sau au făcut progrese majore în privința celebrelor probleme deschise au făcut titluri în mod repetat, iar la începutul acestui an, o dispută separată cu privire la o afirmație OpenAI legată de problema Navier–Stokes a arătat cât de controversate pot deveni astfel de anunțuri. Declarația medaliștilor Fields este, de fapt, cel mai înalt răspuns al comunității de matematică la această dinamică: o solicitare ca laboratoarele de inteligență artificială să nu mai trateze probleme deschise vechi de secole ca intrări în clasament.
Rămâne de văzut dacă companiile AI răspund – consultând matematicieni înainte de anunțuri, creditând munca anterioară sau regândind criteriile de referință. Ceea ce este deja clar este că oamenii care cunosc cel mai bine aceste probleme nu mai privesc de pe margine.
