I più recenti modelli di ragionamento basati sull'intelligenza artificiale riproducono ancora stereotipi razziali e di genere in medicina, risultati di uno studio

Secondo una nuova ricerca condotta da scienziati australiani, anche l’ultima generazione di modelli di intelligenza artificiale capaci di ragionare riproducono stereotipi razziali e di genere quando vengono interrogati sugli scenari medici. I risultati, riportati il ​​7 agosto 2026, ci ricordano che l’aumento dell’intelligenza del modello non elimina automaticamente i pregiudizi sistemici incorporati nei dati di addestramento. Per ulteriori ultime notizie sull’intelligenza artificiale sull’intersezione tra intelligenza artificiale ed equità sanitaria, lo studio solleva domande urgenti sull’implementazione di questi strumenti in contesti clinici.

Testare la prossima generazione di modelli di ragionamento

I ricercatori hanno chiesto a due modelli di linguaggio di ragionamento di prossima generazione, o3-mini e DeepSeek-R1 di OpenAI, su pazienti immaginari di valutare se i modelli più recenti hanno superato i pregiudizi ben documentati dei loro predecessori. I modelli di ragionamento, che impiegano calcoli aggiuntivi per "pensare" ai problemi prima di rispondere, sono generalmente considerati più capaci dei chatbot standard in compiti complessi. Si è ipotizzato che questa capacità aggiuntiva potrebbe renderli anche più affidabili in settori sensibili come la medicina.

I risultati suggeriscono il contrario. Lo studio ha scoperto che entrambi i modelli riproducevano stereotipi razziali e di genere quando presentati con scenari clinici, indicando che il salto dalle architetture standard a quelle di ragionamento non ha risolto il problema fondamentale dei dati di formazione distorti.

Un problema persistente attraverso le generazioni

I risultati sono coerenti con un numero crescente di prove che i pregiudizi medici nell’intelligenza artificiale sono ostinatamente persistenti. Una revisione sistematica della letteratura pubblicata su Nature nell’aprile 2026 ha esaminato bias, rappresentazione e fedeltà clinica nelle immagini generate dall’intelligenza artificiale utilizzate per la formazione medica. Tale revisione ha rilevato una diffusa sottorappresentazione di determinati gruppi demografici e rappresentazioni stereotipate quando sono apparsi.

Nel maggio 2026, The Lancet ha pubblicato una revisione delle metriche di equità per i modelli di previsione clinica basati sull’intelligenza artificiale. Dall’analisi è emerso che, sebbene i ricercatori abbiano proposto numerosi quadri matematici per misurare l’equità, i parametri vengono applicati in modo incoerente tra gli studi, rendendo difficile valutare se si stiano facendo progressi reali.

Lo studio australiano aggiunge una nuova dimensione concentrandosi specificamente sui modelli di ragionamento, la categoria di intelligenza artificiale che molti credevano sarebbe stata più solida contro i pregiudizi grazie al loro approccio strutturato alla risoluzione dei problemi.

Perché il ragionamento non elimina i pregiudizi

La persistenza di pregiudizi nei modelli di ragionamento indica un problema strutturale nel modo in cui questi sistemi apprendono. I grandi modelli linguistici vengono addestrati su vasti corpora di testo, molti dei quali riflettono i pregiudizi, gli stereotipi e le disuguaglianze presenti nel mondo reale. La stessa letteratura medica ha storicamente sovrarappresentato i pazienti maschi bianchi negli studi clinici e sottorappresentato le donne e le minoranze razziali.

I modelli di ragionamento migliorano le prestazioni su problemi logici e a più passaggi generando passaggi di ragionamento intermedi, ma tali passaggi di ragionamento sono comunque prodotti dallo stesso modello sottostante addestrato sugli stessi dati. Se il modello ha appreso associazioni tra determinati gruppi demografici e determinate condizioni mediche o tratti della personalità, può riprodurre tali associazioni anche mentre "ragiona" attraverso uno scenario clinico.

Ciò significa che la fedeltà clinica di un modello, la sua capacità di produrre risultati medici accurati ed equi, dipende non solo dall’architettura del ragionamento ma dalla rappresentatività e dalla qualità dei dati su cui è stato addestrato.

La posta in gioco per l'intelligenza artificiale nel settore sanitario

I risultati arrivano in un momento in cui l’intelligenza artificiale viene rapidamente integrata nelle infrastrutture sanitarie. Gli ospedali e i sistemi sanitari stanno implementando l’intelligenza artificiale per attività che vanno dalla documentazione clinica e l’analisi delle immagini mediche al triage dei pazienti e alla raccomandazione del trattamento. La rete HCPLive ha riferito nell’agosto 2026 di temere che l’intelligenza artificiale possa peggiorare le disparità sanitarie se modelli distorti vengono implementati senza un’adeguata supervisione.

Se i modelli di ragionamento riproducono ancora gli stereotipi sulla razza e sul genere quando vengono interrogati sui pazienti, il rischio è che questi strumenti possano rafforzare le disparità esistenti nella diagnosi, nelle raccomandazioni terapeutiche e nella comunicazione con i pazienti. Un modello che associa sistematicamente determinate condizioni a determinati gruppi demografici, o che tratta i pazienti in modo diverso in base alla razza o al sesso, potrebbe causare danni reali in ambito clinico.

L’Eurasia Review, riferendo sullo studio, ha osservato che la persistenza di pregiudizi tra le generazioni di modelli suggerisce che l’approccio del settore dell’intelligenza artificiale per affrontare i pregiudizi medici potrebbe dover passare dai miglioramenti dell’architettura dei modelli alla governance dei dati e all’equità rappresentativa.

Cosa deve cambiare

La ricerca evidenzia diversi cambiamenti necessari. In primo luogo, i dati di formazione per l’IA medica devono essere verificati per garantire l’equità rappresentativa, garantendo che le donne, le minoranze razziali e altri gruppi sottorappresentati siano adeguatamente presi in considerazione. In secondo luogo, i test di equità dovrebbero essere un passaggio obbligatorio prima di implementare l’intelligenza artificiale in contesti clinici, non un ripensamento. In terzo luogo, la comunità medica ha bisogno di parametri di riferimento standardizzati per valutare se i modelli trattano i pazienti in modo equo tra i gruppi demografici.

La scoperta della revisione di scoping di Lancet secondo cui i parametri di equità vengono applicati in modo incoerente evidenzia la necessità di quadri di valutazione standardizzati. Senza un accordo su come misurare i bias, è impossibile ritenere responsabili gli sviluppatori di intelligenza artificiale o monitorare se vengono compiuti progressi.

Un invito alla prudenza

Lo studio australiano serve da monito a non dare per scontato che i modelli più capaci siano intrinsecamente più sicuri. Poiché i modelli di ragionamento diventano l’impostazione predefinita per le applicazioni ad alto rischio in medicina, diritto e finanza, i risultati dei bias medici suggeriscono che la capacità grezza e l’equità sono problemi separati che richiedono soluzioni separate.

Per le organizzazioni sanitarie che stanno valutando l’implementazione dell’intelligenza artificiale, il messaggio è chiaro: anche i modelli di ragionamento più avanzati oggi disponibili possono riprodurre stereotipi dannosi e tale rischio deve essere gestito attivamente attraverso test, supervisione e impegno per dati equi.

Stai al passo con l'intelligenza artificiale

Man mano che l’intelligenza artificiale viene integrata nel settore sanitario, comprenderne i limiti è importante tanto quanto celebrarne le capacità. Per restare al passo con gli ultimi sviluppi dell'intelligenza artificiale nella ricerca medica, nella sicurezza dei modelli e nella tecnologia sanitaria, segui la nostra continua copertura del settore dell'intelligenza artificiale.

Leggi altre notizie sull'AI →