Secondo un nuovo studio pubblicato su Proceedings of the National Academy of Sciences, i modelli linguistici dell’intelligenza artificiale sono pericolosamente suscettibili a sottili cambiamenti nel modo in cui vengono presentate le opzioni, rispondendo a suggerimenti fuorvianti molto più fortemente di quanto facciano gli esseri umani.

I risultati sollevano serie preoccupazioni sull’impiego di agenti di intelligenza artificiale per il processo decisionale autonomo in scenari del mondo reale, dalle transazioni finanziarie alle scelte sanitarie. Come riportato da AI Buzz Wire, le aziende stanno posizionando sempre più agenti basati su LLM affinché agiscano per conto degli utenti in ambienti complessi.

Lo studio, condotto da Manuel Cherep, uno studente di dottorato presso il Media Lab del Massachusetts Institute of Technology, ha testato 14 modelli linguistici all'avanguardia delle principali aziende tecnologiche. I modelli testati includevano versioni delle famiglie GPT-3.5, GPT-4 e GPT-5 di OpenAI, i modelli Claude 3 e 4.5 di Anthropic e i modelli Gemini 1.5 e 2.5 di Google.

Come ha funzionato lo studio

I ricercatori hanno adattato un gioco decisionale multi-attributo originariamente progettato per partecipanti umani. Il gioco presenta una griglia digitale che rappresenta cesti di premi nascosti, con l'obiettivo di massimizzare la ricompensa finale scegliendo il cesto con il valore in punti più alto. Ogni cella rivela punti costo, costringendo i partecipanti a bilanciare il costo della raccolta di informazioni con il vantaggio di trovare un paniere migliore.

I ricercatori hanno convertito questo gioco visivo in un formato basato su testo che i modelli linguistici potevano elaborare. I modelli di intelligenza artificiale hanno svolto centinaia di prove in diverse condizioni di suggerimento. Alcuni hanno ricevuto istruzioni di base, altri hanno ricevuto suggerimenti che incoraggiavano la logica passo passo e ad altri sono stati mostrati esempi passati di gioco umano. Per ogni tipo di spinta, i ricercatori hanno eseguito circa 300-340 prove per modello, consumando circa due miliardi di token di testo in totale.

Quattro tipi di nudge testati

Lo studio ha esaminato quattro tipi specifici di nudge progettati per imitare gli ambienti decisionali del mondo reale:

  • Nudge predefiniti: un paniere era preselezionato e l'agente doveva accettarlo o rifiutarlo attivamente.
  • Suggerimenti: veniva consigliato un canestro casuale all'inizio o alla fine del gioco.
  • Evidenziazione delle informazioni: è stato reso più economico rivelare determinati valori dei premi, indirizzando potenzialmente l'agente verso scelte non ottimali.
  • Nudge ottimali: sono state pre-rivelate celle specifiche che massimizzerebbero matematicamente le prestazioni di un giocatore umano.

Tassi di conformità allarmanti

I risultati hanno rivelato differenze drammatiche tra il comportamento decisionale umano e quello dell’intelligenza artificiale.

Quando viene presentata un’opzione predefinita, gli esseri umani scelgono l’impostazione predefinita circa l’88% delle volte. I modelli linguistici erano significativamente più conformi, con diversi modelli che accettavano il paniere predefinito dal 99 al 100% delle volte.

Questo modello persisteva con suggerimenti. Gli esseri umani hanno accettato i canestri suggeriti casualmente all'inizio del gioco il 35% delle volte. Molti modelli di intelligenza artificiale hanno accettato questi suggerimenti casuali a tassi molto più elevati, seguendo i consigli anche quando non offrivano alcun vantaggio logico.

Anche la tempistica dei suggerimenti ha manipolato i modelli in modi innaturali. Mentre gli esseri umani hanno seguito i suggerimenti tardivi il 25% delle volte, alcuni modelli linguistici hanno ridotto i loro tassi di accettazione tra il 7 e il 13%. Ciò implica che i modelli reagissero strettamente alla tempistica del segnale piuttosto che valutarne l’effettiva utilità.

Forse la cosa più preoccupante è che quando i ricercatori hanno evidenziato le scelte non ottimali attraverso l’evidenziazione delle informazioni, gli esseri umani hanno utilizzato quelle informazioni fuorvianti il ​​57% delle volte. La maggior parte dei modelli di intelligenza artificiale testati hanno superato notevolmente questa linea di base, seguendo l'evidenziazione negativa dall'83 al 100% delle volte.

Problemi nascosti dietro i buoni punteggi

I ricercatori hanno anche monitorato il modo in cui i modelli hanno raccolto informazioni prima di fare una scelta finale. Gli esseri umani tendono a rivelare cellule appena sufficienti per formulare un'ipotesi plausibile. I modelli linguistici acquisivano informazioni in modi altamente insoliti e inefficienti.

Alcuni modelli hanno scelto i cestini senza rivelare alcuna cella nascosta, ignorando completamente la possibilità di raccogliere dati. Altri modelli hanno speso punti eccessivi rivelando intere righe o colonne, sprecando i loro potenziali premi. Alcuni modelli mostravano strane distorsioni spaziali, scoprendo solo le celle all’estrema sinistra della griglia o rigorosamente lungo le linee diagonali.

Fornire modelli con suggerimenti di ragionamento passo passo o esempi di gameplay umano ha fatto ben poco per correggere queste strane abitudini di ricerca.

Gli autori hanno notato che guardare solo i punteggi finali può nascondere questi problemi di fondo. In alcune prove, i modelli di intelligenza artificiale hanno guadagnato un numero di punti netti simile a quello dei giocatori umani. Un osservatore casuale che controlla solo il punteggio finale potrebbe presumere che i modelli stiano facendo scelte intelligenti, simili a quelle umane. In realtà, i modelli spesso raggiungevano questi punteggi grazie alla cieca conformità piuttosto che al pensiero strategico.

Se una spinta puntava verso un buon canestro, l'IA eccessivamente compiacente segnava bene. Quando la spinta puntava verso un canestro sbagliato, l'IA lo seguiva ciecamente fino a un punteggio inferiore, mancando completamente lo scopo del gioco.

Implicazioni per l'implementazione dell'agente AI

"Molte applicazioni degli agenti IA presumono tacitamente che, in condizioni di incertezza, reagiranno in modi più o meno simili a quelli umani, se non in modo più razionale", ha detto Cherep. "Invece di accettare questo presupposto, abbiamo deciso di esplorare come si comportano gli agenti quando le scelte vengono loro presentate in modi diversi."

I risultati dello studio hanno implicazioni significative per il mercato in rapida crescita degli agenti IA progettati per navigare sul Web, utilizzare strumenti e prendere decisioni finanziarie o di acquisto per gli utenti. Se questi agenti seguono ciecamente le opzioni predefinite, i suggerimenti o le informazioni evidenziate senza una valutazione critica, potrebbero essere facilmente manipolati da malintenzionati o da interfacce mal progettate.

La ricerca suggerisce che gli attuali modelli linguistici mancano della razionalità limitata che guida il processo decisionale umano. Mentre gli esseri umani utilizzano scorciatoie mentali per bilanciare il costo della raccolta di informazioni con la ricompensa di una buona scelta, i modelli di intelligenza artificiale non condividono questi vincoli biologici, ma mostrano una propria forma di irrazionalità che è probabilmente più estrema e meno prevedibile.

Stai al passo con l'intelligenza artificiale

Per ulteriori notizie e analisi sull'IA dell'ultima ora, visita AI Buzz Wire.

Leggi altre notizie sull'AI →