Chiar și cea mai recentă generație de modele de inteligență artificială capabile să raționeze reproduce stereotipurile rasiale și de gen atunci când sunt întrebate despre scenarii medicale, potrivit unei noi cercetări ale oamenilor de știință australieni. Descoperirile, raportate la 7 august 2026, sunt un memento amănunțit că extinderea inteligenței modelului nu elimină automat părtinirile sistemice încorporate în datele de antrenament. Pentru mai multe știri de ultimă oră despre intersecția inteligenței artificiale și echității în domeniul sănătății, studiul ridică întrebări urgente cu privire la implementarea acestor instrumente în medii clinice.

Testarea următoarei generații de modele de raționament

Cercetătorii au întrebat două modele lingvistice mari de raționament de generație următoare, OpenAI o3-mini și DeepSeek-R1, despre pacienții fictivi pentru a evalua dacă modelele mai noi au depășit părtinirile bine documentate ale predecesorilor lor. Modelele de raționament, care petrec calcule suplimentare „gândind” la probleme înainte de a răspunde, sunt în general considerate mai capabile decât chatbot-urile standard la sarcini complexe. Presupunerea a fost că această capacitate adăugată le-ar putea face, de asemenea, mai fiabile în domenii sensibile precum medicina.

Rezultatele sugerează contrariul. Studiul a constatat că ambele modele au reprodus stereotipuri rasiale și de gen atunci când au fost prezentate cu scenarii clinice, ceea ce indică faptul că saltul de la arhitecturile standard la arhitecturile de raționament nu a rezolvat problema fundamentală a datelor de formare părtinitoare.

O problemă persistentă de-a lungul generațiilor

Descoperirile sunt în concordanță cu un număr tot mai mare de dovezi că părtinirea medicală în IA este persistentă. O revizuire sistematică a literaturii publicată în Nature în aprilie 2026 a examinat părtinirea, reprezentarea și fidelitatea clinică în imaginile generate de AI utilizate pentru educația medicală. Această analiză a constatat o subreprezentare pe scară largă a anumitor grupuri demografice și portrete stereotipe atunci când au apărut.

În mai 2026, The Lancet a publicat o revizuire a domeniului de aplicare a valorilor de corectitudine pentru modelele de predicție clinică bazate pe inteligență artificială. Această analiză a constatat că, deși cercetătorii au propus numeroase cadre matematice pentru măsurarea corectitudinii, valorile sunt aplicate inconsecvent în studii, ceea ce face dificilă evaluarea dacă se realizează progrese reale.

Studiul australian adaugă o nouă dimensiune concentrându-se în mod special pe modelele de raționament, categoria de IA despre care mulți credeau că ar fi mai robustă împotriva părtinirii, datorită abordării lor structurate de rezolvare a problemelor.

De ce raționamentul nu elimină părtinirea

Persistența părtinirii în modelele de raționament indică o problemă structurală în modul în care aceste sisteme învață. Modelele de limbaj mari sunt antrenate pe corpuri vaste de text, dintre care o mare parte reflectă părtinirile, stereotipurile și inechitățile prezente în lumea reală. Literatura medicală însăși a suprareprezentat istoric pacienții de sex masculin alb în studiile clinice și a subreprezentat femeile și minoritățile rasiale.

Modelele de raționament îmbunătățesc performanța pe probleme logice și cu mai mulți pași prin generarea de pași intermediari de raționament, dar acești pași de raționament sunt încă produși de același model de bază antrenat pe aceleași date. Dacă modelul a învățat asocieri între anumite grupuri demografice și anumite afecțiuni medicale sau trăsături de personalitate, poate reproduce acele asocieri chiar și în timp ce „raționează” printr-un scenariu clinic.

Aceasta înseamnă că fidelitatea clinică a unui model, capacitatea sa de a produce rezultate medicale precise și echitabile, depinde nu doar de arhitectura de raționament, ci și de reprezentativitatea și calitatea datelor pe care a fost instruit.

Mizele pentru IA din domeniul sănătății

Descoperirile ajung într-un moment în care IA este rapid integrată în infrastructura de asistență medicală. Spitalele și sistemele de sănătate implementează AI pentru sarcini, de la documentarea clinică și analiza imagistică medicală până la triajul pacienților și recomandarea de tratament. Rețeaua HCPLive a raportat în august 2026 cu privire la îngrijorarea că AI ar putea agrava disparitățile în domeniul sănătății dacă modelele părtinitoare sunt implementate fără o supraveghere adecvată.

Dacă modelele de raționament încă reproduc stereotipuri despre rasă și gen atunci când sunt întrebați despre pacienți, riscul este ca aceste instrumente să întărească disparitățile existente în diagnostic, recomandări de tratament și comunicare cu pacientul. Un model care asociază sistematic anumite afecțiuni cu anumite grupuri demografice sau care tratează pacienții în mod diferit în funcție de rasă sau sex, ar putea provoca un rău real în mediile clinice.

Eurasia Review, raportând despre studiu, a remarcat că persistența părtinirii între generațiile de modele sugerează că abordarea industriei AI pentru abordarea părtinirii medicale ar putea trebui să treacă de la îmbunătățirea arhitecturii modelului la guvernanța datelor și echitatea reprezentativă.

Ce trebuie schimbat

Cercetarea indică câteva schimbări necesare. În primul rând, datele de instruire pentru IA medicală trebuie auditate pentru echitatea reprezentativă, asigurându-se că femeile, minoritățile rasiale și alte grupuri subreprezentate sunt reflectate în mod adecvat. În al doilea rând, testarea corectitudinii ar trebui să fie un pas obligatoriu înainte de implementarea AI în medii clinice, nu o gândire ulterioară. În al treilea rând, comunitatea medicală are nevoie de repere standardizate pentru a evalua dacă modelele tratează pacienții în mod echitabil între grupurile demografice.

Constatarea analizei de definire a domeniului Lancet conform căreia valorile de corectitudine sunt aplicate în mod inconsecvent evidențiază necesitatea unor cadre de evaluare standardizate. Fără un acord cu privire la modul de măsurare a părtinirii, este imposibil să tragem la răspundere dezvoltatorii AI sau să urmărim dacă se înregistrează progrese.

Un apel la prudență

Studiul australian servește drept avertisment împotriva presupunerii că modelele mai capabile sunt în mod inerent mai sigure. Pe măsură ce modelele de raționament devin implicite pentru aplicațiile cu mize mari în medicină, drept și finanțe, constatările părtinirii medicale sugerează că capacitatea brută și echitatea sunt probleme separate care necesită soluții separate.

Pentru organizațiile din domeniul sănătății care iau în considerare implementarea AI, mesajul este clar: chiar și cele mai avansate modele de raționament disponibile astăzi pot reproduce stereotipuri dăunătoare, iar acest risc trebuie gestionat activ prin testare, supraveghere și un angajament pentru date echitabile.

Rămâi înaintea AI

Pe măsură ce IA devine încorporată în asistența medicală, înțelegerea limitărilor sale este la fel de importantă ca și celebrarea capacităților sale. Pentru a ține pasul cu cele mai recente evoluții AI în cercetarea medicală, siguranța modelelor și tehnologia de asistență medicală, urmăriți acoperirea industriei AI.

Citiți mai multe știri AI →