Z nowych badań przeprowadzonych przez australijskich naukowców wynika, że ​​nawet najnowsza generacja modeli sztucznej inteligencji potrafiących rozumować odtwarza stereotypy rasowe i płciowe w przypadku pytań o scenariusze medyczne. Odkrycia opublikowane 7 sierpnia 2026 r. stanowią otrzeźwiające przypomnienie, że zwiększanie skali inteligencji modeli nie eliminuje automatycznie systemowych błędów tkwiących w danych szkoleniowych. Aby uzyskać więcej najświeższych wiadomości o sztucznej inteligencji na temat skrzyżowania sztucznej inteligencji i równości w opiece zdrowotnej, badanie rodzi pilne pytania dotyczące wdrażania tych narzędzi w warunkach klinicznych.

Testowanie nowej generacji modeli rozumowania

Naukowcy zapytali dwa modele wnioskowania nowej generacji, o3-mini i DeepSeek-R1 OpenAI, o fikcyjnych pacjentów, aby ocenić, czy nowsze modele przezwyciężyły dobrze udokumentowane uprzedzenia swoich poprzedników. Modele rozumowania, które wymagają dodatkowych obliczeń „przemyślenia” problemów przed udzieleniem odpowiedzi, są ogólnie uważane za bardziej wydajne w przypadku złożonych zadań niż standardowe chatboty. Założono, że ta dodatkowa funkcja może zwiększyć ich niezawodność również w wrażliwych dziedzinach, takich jak medycyna.

Wyniki sugerują co innego. Badanie wykazało, że oba modele odtwarzały stereotypy rasowe i płciowe w zestawieniu ze scenariuszami klinicznymi, co wskazuje, że przejście od standardowej architektury do architektury rozumowania nie rozwiązało podstawowego problemu stronniczych danych szkoleniowych.

Stały problem występujący przez pokolenia

Odkrycia są spójne z rosnącą liczbą dowodów na to, że uprzedzenia medyczne w sztucznej inteligencji są stale utrzymujące się. W systematycznym przeglądzie literatury opublikowanym w czasopiśmie Nature w kwietniu 2026 r. zbadano stronniczość, reprezentację i wierność kliniczną obrazów generowanych przez sztuczną inteligencję wykorzystywanych w edukacji medycznej. Przegląd ten wykazał powszechną niedostateczną reprezentację niektórych grup demograficznych i stereotypowe wizerunki, jeśli się one pojawiały.

W maju 2026 r. czasopismo The Lancet opublikowało przegląd wskaźników rzetelności w przypadku klinicznych modeli przewidywania opartych na sztucznej inteligencji. Analiza ta wykazała, że ​​chociaż badacze zaproponowali liczne ramy matematyczne do pomiaru sprawiedliwości, wskaźniki te są stosowane niespójnie w różnych badaniach, co utrudnia ocenę, czy poczyniono rzeczywiste postępy.

Australijskie badanie dodaje nowy wymiar, koncentrując się szczególnie na modelach rozumowania – kategorii sztucznej inteligencji, która według wielu osób będzie bardziej odporna na uprzedzenia ze względu na ustrukturyzowane podejście do rozwiązywania problemów.

Dlaczego rozumowanie nie eliminuje uprzedzeń

Utrzymywanie się uprzedzeń w modelach rozumowania wskazuje na problem strukturalny w sposobie uczenia się tych systemów. Duże modele językowe są trenowane na rozległych korpusach tekstu, z których większość odzwierciedla uprzedzenia, stereotypy i nierówności obecne w prawdziwym świecie. Sama literatura medyczna historycznie wskazuje na nadreprezentację białych mężczyzn w badaniach klinicznych, a niedostateczną reprezentację kobiet i mniejszości rasowych.

Modele wnioskowania poprawiają wydajność w przypadku problemów logicznych i wieloetapowych, generując pośrednie etapy wnioskowania, ale te kroki wnioskowania są nadal tworzone przez ten sam podstawowy model wyszkolony na tych samych danych. Jeśli model nauczył się powiązań między określonymi grupami demograficznymi a określonymi schorzeniami lub cechami osobowości, może odtworzyć te powiązania nawet podczas „wnioskowania” na podstawie scenariusza klinicznego.

Oznacza to, że wierność kliniczna modelu oraz jego zdolność do generowania dokładnych i sprawiedliwych wyników medycznych zależy nie tylko od architektury rozumowania, ale także od reprezentatywności i jakości danych, na których został on uczony.

Stawka dla AI w służbie zdrowia

Odkrycia pojawiły się w momencie, gdy sztuczna inteligencja jest szybko wdrażana w infrastrukturze opieki zdrowotnej. Szpitale i systemy opieki zdrowotnej wdrażają sztuczną inteligencję do różnych zadań, od dokumentacji klinicznej i analizy obrazowania medycznego po segregację pacjentów i zalecenia dotyczące leczenia. W sierpniu 2026 r. sieć HCPLive zgłosiła obawy, że sztuczna inteligencja może pogorszyć dysproporcje w opiece zdrowotnej, jeśli zastosuje się stronnicze modele bez odpowiedniego nadzoru.

Jeśli modele rozumowania w dalszym ciągu powielają stereotypy dotyczące rasy i płci w przypadku pytań o pacjentów, istnieje ryzyko, że narzędzia te mogą uwydatnić istniejące rozbieżności w diagnozie, zaleceniach dotyczących leczenia i komunikacji z pacjentem. Model, który systematycznie wiąże określone schorzenia z określonymi grupami demograficznymi lub który traktuje pacjentów odmiennie ze względu na rasę lub płeć, może wyrządzić realne szkody w warunkach klinicznych.

W czasopiśmie Eurasia Review, w którym opisano badanie, zauważono, że utrzymujące się uprzedzenia w różnych generacjach modeli sugerują, że podejście branży sztucznej inteligencji do rozwiązywania problemu błędów medycznych może wymagać zmiany z ulepszeń architektury modeli na zarządzanie danymi i sprawiedliwość reprezentacyjną.

Co należy zmienić

Badania wskazują na kilka niezbędnych zmian. Po pierwsze, dane szkoleniowe dotyczące medycznej sztucznej inteligencji należy poddać audytowi pod kątem równości reprezentacyjnej, zapewniając odpowiednie odzwierciedlenie kobiet, mniejszości rasowych i innych niedostatecznie reprezentowanych grup. Po drugie, badanie rzetelności powinno być obowiązkowym krokiem przed wdrożeniem sztucznej inteligencji w warunkach klinicznych, a nie refleksją. Po trzecie, społeczność medyczna potrzebuje standardowych punktów odniesienia do oceny, czy modele leczą pacjentów w równy sposób w różnych grupach demograficznych.

Ustalenie przeglądu zakresu Lancet, że wskaźniki rzetelności są stosowane niekonsekwentnie, uwydatnia potrzebę opracowania standardowych ram oceny. Bez porozumienia co do sposobu pomiaru stronniczości nie da się pociągnąć twórców sztucznej inteligencji do odpowiedzialności ani śledzić postępów.

Apel o ostrożność

Australijskie badanie stanowi ostrzeżenie przed założeniem, że modele o większych możliwościach są z natury bezpieczniejsze. Ponieważ modele rozumowania stają się standardem w zastosowaniach wymagających wysokich stawek w medycynie, prawie i finansach, ustalenia dotyczące błędów medycznych sugerują, że surowe możliwości i równość to odrębne problemy wymagające odrębnych rozwiązań.

Dla organizacji opieki zdrowotnej rozważających wdrożenie sztucznej inteligencji przesłanie jest jasne: nawet najbardziej zaawansowane dostępne obecnie modele rozumowania mogą powielać szkodliwe stereotypy, a ryzykiem tym należy aktywnie zarządzać poprzez testowanie, nadzór i dbałość o rzetelne dane.

Wyprzedź sztuczną inteligencję

W miarę jak sztuczna inteligencja staje się częścią opieki zdrowotnej, zrozumienie jej ograniczeń jest równie ważne, jak docenianie jej możliwości. Aby być na bieżąco z najnowszymi osiągnięciami sztucznej inteligencji w badaniach medycznych, bezpieczeństwie modeli i technologii opieki zdrowotnej, śledź nasze bieżące relacjonowanie branży AI.

Przeczytaj więcej aktualności o sztucznej inteligencji →