Згідно з новим дослідженням австралійських вчених, навіть останнє покоління моделей штучного інтелекту, які здатні міркувати, відтворюють расові та гендерні стереотипи, коли їх запитують про медичні сценарії. Висновки, оприлюднені 7 серпня 2026 року, є протверезим нагадуванням про те, що розширення модельного інтелекту не усуває автоматично системні упередження, вбудовані в навчальні дані. Додаткові [найновіші новини штучного інтелекту] (https://aibuzzwire.news) про перетин штучного інтелекту та справедливості в охороні здоров’я, дослідження піднімає нагальні питання щодо застосування цих інструментів у клінічних умовах.

Тестування наступного покоління моделей міркування

Дослідники запитали про вигаданих пацієнтів дві великі мовні моделі міркувань наступного покоління, o3-mini та DeepSeek-R1 від OpenAI, щоб оцінити, чи нові моделі подолали добре задокументовані упередження своїх попередників. Моделі міркування, які витрачають додаткові обчислення на «обмірковування» проблем перед тим, як відповісти, зазвичай вважаються більш здатними, ніж стандартні чат-боти, у складних завданнях. Було припущення, що ця додаткова можливість також може зробити їх більш надійними в таких чутливих областях, як медицина.

Результати свідчать про інше. Дослідження показало, що обидві моделі відтворюють расові та гендерні стереотипи, коли представлені клінічні сценарії, що вказує на те, що перехід від стандартних архітектур до міркувань не вирішив фундаментальної проблеми упереджених навчальних даних.

Постійна проблема в поколіннях

Отримані результати узгоджуються зі зростаючою кількістю доказів того, що медичне упередження щодо ШІ є стійким. У систематичному огляді літератури, опублікованому в журналі Nature у квітні 2026 року, досліджувалися упередженість, репрезентація та клінічна точність зображень, створених штучним інтелектом, які використовуються для медичної освіти. Цей огляд виявив широке недопредставлення певних демографічних груп і стереотипне зображення, коли вони з’являлися.

У травні 2026 року The Lancet опублікував огляд показників справедливості для моделей клінічного прогнозування на основі ШІ. Цей аналіз виявив, що хоча дослідники запропонували численні математичні схеми для вимірювання справедливості, показники застосовуються непослідовно в різних дослідженнях, що ускладнює оцінку реального прогресу.

Австралійське дослідження додає новий вимір, зосереджуючись саме на моделях міркування, категорії штучного інтелекту, який, на думку багатьох, був би більш стійким проти упередженості через їх структурований підхід до вирішення проблем.

Чому міркування не усуває упередженості

Стійкість упередженості в моделях міркування вказує на структурну проблему в тому, як ці системи навчаються. Великі мовні моделі тренуються на величезних масивах текстів, значна частина яких відображає упередження, стереотипи та несправедливість, наявні в реальному світі. Сама медична література історично свідчила про те, що в клінічних випробуваннях білі пацієнти чоловічої статі надмірно представлені, а жінки та расові меншини – недостатньо.

Моделі міркування покращують продуктивність логічних і багатоетапних задач, генеруючи проміжні кроки міркування, але ці кроки міркування все ще створюються тією самою основною моделлю, навченою на тих самих даних. Якщо модель засвоїла асоціації між певними демографічними групами та певними захворюваннями чи рисами особистості, вона може відтворити ці асоціації навіть під час «міркування» за допомогою клінічного сценарію.

Це означає, що клінічна точність моделі, її здатність виробляти точні, об’єктивні медичні результати залежить не лише від архітектури міркувань, а й від репрезентативності та якості даних, на яких її було навчено.

Ставки для ШІ в охороні здоров'я

Висновки отримані в той момент, коли штучний інтелект швидко вбудовується в інфраструктуру охорони здоров’я. Лікарні та системи охорони здоров’я розгортають штучний інтелект для виконання завдань, починаючи від клінічної документації та аналізу медичних зображень до сортування пацієнтів і рекомендацій щодо лікування. У серпні 2026 року мережа HCPLive повідомила про занепокоєння тим, що штучний інтелект може погіршити диспропорції в охороні здоров’я, якщо упереджені моделі розгортатимуться без належного нагляду.

Якщо моделі аргументації все ще відтворюють стереотипи щодо раси та статі, коли запитують про пацієнтів, існує ризик того, що ці інструменти можуть посилити існуючі розбіжності в діагностиці, рекомендаціях щодо лікування та спілкуванні з пацієнтами. Модель, яка систематично пов’язує певні захворювання з певними демографічними групами або по-різному лікує пацієнтів залежно від раси чи статі, може завдати реальної шкоди в клінічних умовах.

The Eurasia Review, звітуючи про дослідження, зазначає, що збереження упередженості між поколіннями моделей свідчить про те, що підхід індустрії штучного інтелекту до усунення медичних упереджень, можливо, потребуватиме переходу від удосконалення архітектури моделі до управління даними та справедливості представництва.

Що потрібно змінити

Дослідження вказує на кілька необхідних змін. По-перше, дані навчання для медичного штучного інтелекту повинні перевірятися на предмет справедливості представництва, гарантуючи належне відображення жінок, расових меншин та інших недостатньо представлених груп. По-друге, перевірка справедливості повинна бути обов’язковим кроком перед розгортанням ШІ в клінічних умовах, а не запізнілою думкою. По-третє, медична спільнота потребує стандартизованих контрольних показників для оцінки того, чи моделі лікують пацієнтів рівномірно для всіх демографічних груп.

Результат огляду Lancet про те, що показники справедливості застосовуються непослідовно, підкреслює потребу в стандартизованих системах оцінки. Без згоди щодо того, як вимірювати упередженість, неможливо притягнути до відповідальності розробників штучного інтелекту або відстежити, чи досягається прогрес.

Заклик до обережності

Австралійське дослідження служить застереженням проти припущення, що потужніші моделі за своєю суттю безпечніші. Оскільки моделі міркування стають типовими для застосування з високими ставками в медицині, юриспруденції та фінансах, результати медичного упередження свідчать про те, що сирі можливості та справедливість є окремими проблемами, які потребують окремих рішень.

Для організацій охорони здоров’я, які розглядають можливість розгортання штучного інтелекту, повідомлення чітке: навіть найдосконаліші доступні сьогодні моделі міркування можуть відтворювати шкідливі стереотипи, і цим ризиком потрібно активно керувати шляхом тестування, нагляду та відданості справедливим даним.

Будьте попереду ШІ

Оскільки ШІ стає частиною системи охорони здоров’я, розуміння його обмежень є таким же важливим, як і відзначення його можливостей. Щоб бути в курсі останніх розробок штучного інтелекту в медичних дослідженнях, безпеці моделей і медичних технологіях, слідкуйте за нашими [висвітленням індустрії штучного інтелекту] (https://aibuzzwire.news).

Читати більше новин AI →