호주 과학자들의 새로운 연구에 따르면 추론 가능한 AI 모델의 최신 세대도 의학적 시나리오에 대한 질문을 받으면 인종 및 성별 고정관념을 재현한다고 합니다. 2026년 8월 7일에 보고된 연구 결과는 모델 인텔리전스를 확장해도 훈련 데이터에 내재된 시스템적 편향이 자동으로 제거되지 않는다는 사실을 다시금 일깨워줍니다. 인공 지능과 의료 형평성의 교차점에 대한 자세한 AI 속보를 위해 이 연구에서는 이러한 도구를 임상 환경에 배포하는 것에 대한 긴급한 질문을 제기합니다.

차세대 추론 모델 테스트

연구자들은 두 가지 차세대 추론 대형 언어 모델인 OpenAI의 o3-mini와 DeepSeek-R1에 가상의 환자에 대해 질문하여 새로운 모델이 이전 모델의 잘 문서화된 편견을 극복했는지 여부를 평가했습니다. 답변하기 전에 문제를 통해 "생각"하는 추가 계산을 수행하는 추론 모델은 일반적으로 복잡한 작업에서 표준 챗봇보다 더 뛰어난 것으로 간주됩니다. 이러한 추가된 기능으로 인해 의학과 같은 민감한 영역에서 더욱 신뢰할 수 있게 될 수도 있다는 가정이 있었습니다.

결과는 그렇지 않다는 것을 암시합니다. 연구에서는 두 모델 모두 임상 시나리오가 제시될 때 인종 및 성별 고정관념을 재현한다는 사실을 발견했습니다. 이는 표준에서 추론 아키텍처로의 도약이 편향된 훈련 데이터의 근본적인 문제를 해결하지 못했음을 나타냅니다.

세대를 넘어 계속되는 문제

이번 연구 결과는 AI에 대한 의학적 편견이 완고하게 지속된다는 증거가 점점 늘어나고 있는 것과 일치합니다. 2026년 4월 Nature에 발표된 체계적인 문헌 검토에서는 의학 교육에 사용되는 AI 생성 이미지의 편견, 표현 및 임상 충실도를 조사했습니다. 해당 리뷰에서는 특정 인구통계 그룹이 광범위하게 과소대표되고, 등장했을 때 고정관념이 있는 묘사가 발견되었습니다.

2026년 5월, The Lancet은 AI 기반 임상 예측 모델에 대한 공정성 지표에 대한 범위 검토를 발표했습니다. 그 분석에 따르면 연구자들은 공정성을 측정하기 위한 수많은 수학적 프레임워크를 제안했지만 측정 기준은 연구 전반에 걸쳐 일관되지 않게 적용되어 실제 진전이 이루어지고 있는지 평가하기가 어렵습니다.

호주의 연구는 구조화된 문제 해결 접근 방식으로 인해 편견에 대해 더 강력할 것이라고 많은 사람들이 믿었던 AI 범주인 추론 모델에 특별히 초점을 맞춰 새로운 차원을 추가했습니다.

추론이 편견을 제거하지 못하는 이유

추론 모델의 편향이 지속된다는 것은 이러한 시스템이 학습하는 방식에 구조적 문제가 있음을 나타냅니다. 대규모 언어 모델은 방대한 텍스트 말뭉치에 대해 학습되며, 그 중 대부분은 현실 세계에 존재하는 편견, 고정관념 및 불평등을 반영합니다. 의학 문헌 자체는 역사적으로 임상 시험에서 백인 남성 환자를 과도하게 대표하고 여성과 소수 인종을 과소 대표했습니다.

추론 모델은 중간 추론 단계를 생성하여 논리 및 다단계 문제에 대한 성능을 향상시키지만 이러한 추론 단계는 여전히 동일한 데이터에 대해 훈련된 동일한 기본 모델에 의해 생성됩니다. 모델이 특정 인구통계학적 그룹과 특정 의학적 상태 또는 성격 특성 간의 연관성을 학습한 경우 임상 시나리오를 통해 "추론"하는 동안에도 이러한 연관성을 재현할 수 있습니다.

이는 모델의 임상적 충실도, 정확하고 공평한 의료 결과를 생성하는 능력이 추론 아키텍처뿐만 아니라 훈련된 데이터의 대표성과 품질에 달려 있음을 의미합니다.

헬스케어 AI의 이해관계

이번 연구 결과는 AI가 의료 인프라에 빠르게 내장되는 순간에 나왔습니다. 병원과 의료 시스템은 임상 문서화 및 의료 영상 분석부터 환자 분류 및 치료 권장 사항에 이르기까지 다양한 작업에 AI를 배포하고 있습니다. HCPLive 네트워크는 2026년 8월에 편향된 모델이 적절한 감독 없이 배포될 경우 AI가 의료 불평등을 악화시킬 수 있다는 우려를 보고했습니다.

환자에 관해 질문을 받았을 때 추론 모델이 여전히 인종 및 성별에 대한 고정관념을 재현한다면 이러한 도구가 진단, 치료 권장 사항 및 환자 의사소통에서 기존의 불균형을 강화할 수 있다는 위험이 있습니다. 특정 질환을 특정 인구통계학적 그룹과 체계적으로 연관시키거나 인종이나 성별에 따라 환자를 다르게 치료하는 모델은 임상 환경에서 실질적인 해를 끼칠 수 있습니다.

이 연구에 대해 보고한 유라시아 리뷰(Eurasia Review)는 모델 세대 전반에 걸쳐 편견이 지속된다는 점에서 의료 편견을 해결하기 위한 AI 업계의 접근 방식이 모델 아키텍처 개선에서 데이터 거버넌스 및 대표 형평성으로 전환해야 할 수도 있음을 시사한다고 지적했습니다.

변경해야 할 사항

이 연구는 몇 가지 필요한 변화를 지적합니다. 첫째, 의료 AI 훈련 데이터는 대표성 형평성에 대해 감사를 거쳐 여성, 소수 인종, 기타 소외된 집단이 적절하게 반영되도록 해야 합니다. 둘째, 공정성 테스트는 AI를 임상 환경에 배포하기 전에 필수 단계여야 하며 나중에 고려하는 것이 아닙니다. 셋째, 의료계에는 모델이 인구통계학적 그룹 전반에 걸쳐 환자를 공평하게 대하는지 여부를 평가하기 위한 표준화된 벤치마크가 필요합니다.

공정성 지표가 일관되지 않게 적용된다는 Lancet 범위 지정 검토 결과는 표준화된 평가 프레임워크의 필요성을 강조합니다. 편견을 측정하는 방법에 대한 합의가 없으면 AI 개발자에게 책임을 묻거나 진행 상황을 추적하는 것이 불가능합니다.

주의가 필요합니다

호주의 연구는 더 유능한 모델이 본질적으로 더 안전하다고 가정하는 것에 대한 경고 역할을 합니다. 추론 모델이 의학, 법률 및 금융 분야의 고부담 적용에 대한 기본 모델이 됨에 따라 의료 편견 조사 결과에 따르면 원시 역량과 형평성은 별도의 솔루션이 필요한 별도의 문제임을 시사합니다.

AI 배포를 고려하는 의료 기관의 경우 메시지는 분명합니다. 현재 사용 가능한 가장 진보된 추론 모델도 유해한 고정관념을 재현할 수 있으며 해당 위험은 테스트, 감독 및 공평한 데이터에 대한 약속을 통해 적극적으로 관리되어야 한다는 것입니다.

AI보다 앞서 나가세요

AI가 의료에 내장됨에 따라 AI의 한계를 이해하는 것은 AI의 기능을 축하하는 것만큼 중요합니다. 의료 연구, 모델 안전, 의료 기술 분야의 최신 AI 개발을 따라가려면 진행 중인 AI 산업 보도를 팔로우하세요.

AI 뉴스 자세히 보기 →