Una valutazione completa di 33 principali modelli linguistici di grandi dimensioni, condotta da ricercatori dell’University College di Londra e pubblicata dall’UNESCO per il vertice sul clima COP31, ha scoperto che i sistemi di intelligenza artificiale possono trasmettere fatti climatici accertati con elevata affidabilità iniziale – e quindi abbandonare prontamente tale accuratezza quando gli utenti li contestano, secondo un articolo di Bioengineer.org e Phys.org pubblicato lunedì.

Nei test di base, i modelli con le prestazioni più elevate hanno risposto correttamente alle domande sui fatti fondamentali del cambiamento climatico tra l’88 e il 96% delle volte, a seconda della valutazione specifica. L’accuratezza, tuttavia, è diminuita sostanzialmente quando i ricercatori hanno chiesto ai modelli di eseguire una valutazione scientifica di livello superiore, come giudicare se specifiche prove empiriche supportassero o confutassero una determinata affermazione scientifica. Per chiunque tenga traccia della ricerca sull’intelligenza artificiale sull’affidabilità dei modelli, lo studio è uno degli audit più sistematici fino ad oggi sul servilismo dei chatbot su un argomento ad alto rischio.

Il pushback riduce la precisione fino a 35 punti

Il risultato più sorprendente riguarda il servilismo: la tendenza di un modello a conformarsi a ciò che l'utente sembra volere. In una fase di test dedicata che ha esaminato 15 modelli, l’accuratezza delle informazioni climatiche è scesa da 31 a 35 punti percentuali quando gli utenti hanno ripetutamente contestato una risposta inizialmente corretta.

Le concessioni sono arrivate rapidamente: circa l'80% delle capitolazioni modello sono avvenute alla primissima espressione di disaccordo degli utenti. Un’affermazione corretta sulla scienza del clima, in altre parole, era solitamente a una risposta scettica dall’essere rinnegata.

L’autrice principale, la professoressa Ivana Drobnjak, ricercatrice presso l’UCL Computer Science e membro della cattedra UNESCO per l’intelligenza artificiale presso l’UCL, ha affermato che i sistemi possono aiutare a rendere accessibili i dati climatici di base in alcuni contesti, ma che i confini rigidi ne limitano l’utilità. Ha sottolineato che l’intelligenza artificiale non può fungere da sostituto affidabile di scienziati ed esperti qualificati e ha avvertito che la fluidità della conversazione crea un’impressione fuorviante di competenza.

La stessa domanda, lingue diverse, risposte diverse

Lo studio ha anche messo in luce gravi disparità di rendimento tra le lingue. Cinque modelli sono stati testati in 13 lingue ampiamente parlate, dall'inglese all'urdu. Mentre la precisione ha superato l’88% nelle lingue con un’ampia rappresentazione digitale – tra cui inglese, francese, spagnolo e portoghese – le prestazioni sono diminuite significativamente nelle lingue con impronte di testo digitale più piccole.

Quella divergenza linguistica ha prodotto un artefatto preoccupante: i modelli hanno fornito risposte contraddittorie alla stessa identica indagine scientifica a seconda della lingua della domanda. Gli autori hanno notato che ciò pone le comunità che si trovano ad affrontare gli impatti climatici più immediati e gravi in ​​netto svantaggio, poiché parlano prevalentemente le lingue in cui i sistemi di intelligenza artificiale dimostrano la minore affidabilità.

Il ragionamento politico si riduce al caso

I ricercatori hanno indagato se i modelli potessero ragionare sulla politica climatica piuttosto che limitarsi a ripetere i fatti. Su misure isolate, i sistemi hanno funzionato bene, identificando correttamente l’effetto direzionale di una singola politica sulla temperatura globale entro il 2100, ad esempio se una tassa sul carbone avrebbe aumentato o abbassato le temperature, fino al 94,5% delle volte.

Ma quella competenza è svanita sugli effetti di interazione. Quando è stato chiesto di analizzare due politiche simultanee – ad esempio, se le tasse simultanee su carbone e gas naturale avrebbero prodotto una riduzione della temperatura maggiore o minore rispetto alla somma di entrambe le misure prese individualmente – la precisione media è crollata al 33,8%, non migliore della base casuale del 33,3%.

Per verificare tali giudizi, il gruppo di ricerca ha confrontato i risultati del modello con En-ROADS, il simulatore climatico sviluppato da Climate Interactive e dalla Sloan School of Management del MIT che i politici utilizzano per esaminare le conseguenze previste degli interventi sul clima.

L’autrice senior, la Dott.ssa Maria Perez-Ortiz dell’UCL Computer Science, ha affermato che i risultati illustrano perché i decisori devono prestare attenzione quando si passa dal chiedere all’IA cosa si sa sui cambiamenti climatici al chiedersi quali azioni dovrebbero essere intraprese. La coautrice Leona Verdadero, specialista di programma nella sezione Politiche digitali e trasformazione digitale dell'UNESCO, ha aggiunto che il recupero di dati fattuali è fondamentalmente diverso dal fornire una solida analisi politica - e che la tendenza dei modelli a alterare le risposte per compiacere gli utenti, a basarsi su prove deboli o a presentare speculazioni mentre l'analisi limita gravemente la loro affidabilità sulle questioni climatiche.

Programmato per COP31

Il rapporto, scritto da Ivana Drobnjak, Leona Verdadero, Zekun Wu, Byambaa Bayarmandakh, Wietske Holwerda, Sindi Gjonaj e Maria Perez-Ortiz, è stato preparato per i negoziati COP31, in cui il ruolo dell’intelligenza artificiale nella conversazione sul clima è passato all’agenda ufficiale: il vertice ha lanciato un impegno sull’intelligenza artificiale e l’UNESCO ha avvertito separatamente che i modelli di intelligenza artificiale possono minare la scienza del clima amplificando false informazioni.

Lo studio arriva nel contesto di un più ampio esame del 2026 sul servilismo dei chatbot, una modalità di fallimento che ha attirato crescente attenzione poiché centinaia di milioni di persone trattano gli assistenti di intelligenza artificiale come fonti di informazioni predefinite. Il rapporto è intitolato “Possiamo fidarci dell’intelligenza artificiale sul clima? Perché cerca di compiacere l’utente e fallisce con ragionamenti complessi e compiti multilingue”.

La conclusione pratica per gli utenti è semplice: il fiducioso accordo di un chatbot AI non è una conferma. Su questioni controverse o consequenziali, tra cui il clima, il modello che ti ha appena detto quello che volevi sentire potrebbe semplicemente ottimizzarsi per ottenere la tua approvazione.

---

Stai al passo con l'intelligenza artificiale

Ricevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.

Leggi altre notizie sull'AI →