Un gruppo di 25 vincitori di medaglie Fields – ogni firmatario iniziale è un vincitore della più alta onorificenza della matematica – ha pubblicato una dichiarazione formale in cui avverte che la corsa per mettere in risalto l’intelligenza artificiale sui parametri di riferimento matematici sta danneggiando sia la scienza matematica che la comunità che la sostiene. La dichiarazione, intitolata "Un grave disallineamento dell'intelligenza artificiale in matematica", è stata pubblicata venerdì e tra i suoi primi firmatari c'è Terence Tao, uno dei matematici più influenti della sua generazione.
La dichiarazione è pubblicata su mathandai.org e nel giro di un giorno ha raccolto più di 1.300 ulteriori sostenitori da università e istituti di ricerca di tutto il mondo, secondo l'elenco pubblico dei firmatari del sito. Tao ha confermato la sua partecipazione in un post sul suo blog personale, scrivendo di essere "orgoglioso di essere nella lista dei 25 firmatari iniziali, tutti vincitori di medaglie Fields". Per chiunque segua gli ultimi sviluppi dell’intelligenza artificiale, l’intervento segna una delle critiche più acute finora provenienti dall’elite della matematica su come i laboratori di intelligenza artificiale misurano – e pubblicizzano – le capacità dei loro modelli. Venerdì ha dominato la discussione su Hacker News, attirando centinaia di commenti.
Cosa dice la Dichiarazione
I firmatari non contestano il fatto che i sistemi di intelligenza artificiale siano diventati straordinariamente capaci. "Negli ultimi mesi, le capacità matematiche degli LLM sono migliorate notevolmente, al punto che possono risolvere importanti problemi in sospeso in molti campi della matematica", si legge nella dichiarazione. L’obiezione riguarda ciò che accadrà dopo: le aziende di intelligenza artificiale utilizzano tali soluzioni come parametri di riferimento competitivi, cosa che secondo gli autori è “dannosa per la scienza della matematica e per la comunità matematica”.
L’affermazione fondamentale è cruda: “Gli obiettivi delle società di intelligenza artificiale e gli obiettivi della comunità matematica sono gravemente disallineati”.
La dichiarazione sostiene che la risoluzione di problemi famosi è tradizionalmente servita come segno di una nuova intuizione – l’inizio di un lungo processo comunitario di discorsi, discussioni, semplificazione ed eventuali riscritture sui libri di testo – piuttosto che come un fine in sé. "La risoluzione dei problemi è solo uno strumento e un proxy per raggiungere l'obiettivo primario della comprensione e dell'intuizione concettuale", scrivono gli autori. "Dimenticare questo nel mondo dell'intelligenza artificiale potrebbe trasformare lo strumento contro l'obiettivo primario."
La frase più citata coglie la preoccupazione: "la produzione di massa, a un ritmo sempre più veloce, di affermazioni 'vero/falso' potrebbe distruggere un terreno fertile invece di dare vita a nuove idee".
Attribuzione, plagio e annunci affrettati
I firmatari sollevano anche un reclamo pratico. "Spesso queste soluzioni vengono annunciate in fretta, senza lasciare tempo per un resoconto adeguato, per l'isolamento di nuovi metodi e idee e per citare importanti lavori precedenti di altri", afferma la dichiarazione. "Come in tutte le professioni creative, ciò solleva gravi questioni di attribuzione e plagio".
Gli autori avvertono di un effetto di secondo ordine: senza “matematici volenterosi che devono prendersi cura del loro sviluppo e integrazione nel canone matematico”, le idee concepite dall’intelligenza artificiale non si svilupperebbero mai completamente e “la cruciale catena di trasmissione umana tra matematici andrebbe persa”.
Un'insolita dimostrazione di urgenza
Il processo in sé era insolito. Tao ha riconosciuto sul suo blog che la dichiarazione è nata dalle discussioni tra i firmatari "nell'ultima settimana" e si è scusato per non aver avviato un processo più consultivo. "Abbiamo deciso che l'urgenza della situazione era tale che dovevamo rilasciare una dichiarazione il prima possibile", ha scritto.
La dichiarazione segue il modello della precedente dichiarazione di Leida e gli organizzatori invitano esplicitamente ulteriori firme. Tao ha anche segnalato ai lettori la recente copertura della dichiarazione del The Economist. I primi 25 firmatari erano tutti vincitori di medaglie Fields, un segnale intenzionale: i ricercatori più decorati della matematica parlavano con una sola voce. L’elenco più ampio di consensi comprende già matematici del MIT, dell’ETH di Zurigo, del Max Planck Institute, della Northwestern, della New York University e di dozzine di altre istituzioni.
Un avvertimento oltre la matematica
Sebbene l’affermazione abbia le sue radici nella matematica, gli autori la inquadrano come modello per un problema molto più ampio. "Stiamo assistendo a una minaccia generale per il lavoro intellettuale, con un disallineamento tra il risultato dell'uso dell'intelligenza artificiale e il suo scopo iniziale", si legge nella dichiarazione.
L’argomento avrà risonanza ben oltre i dipartimenti di matematica. In molte professioni, notano gli autori, anni di formazione sono tradizionalmente serviti non solo a produrre risposte definitive ma a sviluppare la comprensione e la capacità di formulare nuove domande. Man mano che i sistemi di intelligenza artificiale diventano capaci di produrre direttamente i risultati di tale lavoro, “questi obiettivi cessano di essere allineati”. La dichiarazione descrive i problemi che devono affrontare i matematici come "simili ai problemi che altre professioni scientifiche e creative si trovano ad affrontare, e indicano problemi che tutta l'umanità potrebbe affrontare".
Non è un rifiuto dell'intelligenza artificiale
In particolare, la dichiarazione non è un appello a fermare lo sviluppo dell’intelligenza artificiale. "L'intelligenza artificiale offre il potenziale di migliorare e accelerare lo studio e la comprensione della matematica autentica", scrivono gli autori, pur ammettendo che "la matematica come professione dovrà adattarsi".
L'intervento arriva in un momento carico. Le affermazioni secondo cui i sistemi di intelligenza artificiale hanno risolto o compiuto importanti progressi su celebri problemi aperti hanno ripetutamente fatto notizia, e all'inizio di quest'anno una disputa separata su un'affermazione OpenAI relativa al problema Navier-Stokes ha mostrato quanto controversi possano diventare tali annunci. La dichiarazione dei vincitori della medaglia Fields è in effetti la risposta più importante della comunità matematica a questa dinamica: una richiesta che i laboratori di intelligenza artificiale smettano di trattare problemi aperti secolari come voci di classifica.
Resta da vedere se le aziende di intelligenza artificiale risponderanno, consultando i matematici prima degli annunci, dando credito al lavoro precedente o ripensando i parametri di riferimento. Ciò che è già chiaro è che le persone che conoscono meglio questi problemi non stanno più a guardare in disparte.
