澳大利亚科学家的最新研究表明，当被问及医疗场景时，即使是最新一代具有推理能力的人工智能模型也会重现种族和性别刻板印象。 2026 年 8 月 7 日报道的研究结果发人深省，即扩大模型智能并不会自动消除训练数据中嵌入的系统性偏差。有关人工智能和医疗保健公平交叉的更多突发人工智能新闻，该研究提出了有关在临床环境中部署这些工具的紧迫问题。
测试下一代推理模型
研究人员询问了两个下一代推理大型语言模型（OpenAI 的 o3-mini 和 DeepSeek-R1），关于虚构的患者，以评估新模型是否克服了其前身的有据可查的偏见。推理模型在回答问题之前花费额外的计算“思考”问题，通常被认为比标准聊天机器人在复杂任务上更有能力。人们的假设是，这种附加功能也可能使它们在医学等敏感领域更加可靠。
结果表明并非如此。研究发现，这两种模型在呈现临床场景时都会重现种族和性别刻板印象，这表明从标准架构到推理架构的飞跃并没有解决训练数据有偏差的根本问题。
几代人以来一直存在的问题
这些发现与越来越多的证据相一致，表明人工智能领域的医学偏见顽固地持续存在。 2026 年 4 月在《自然》杂志上发表的一篇系统文献综述检查了用于医学教育的人工智能生成图像的偏差、代表性和临床保真度。该审查发现，某些人口群体的代表性普遍不足，而且当他们出现时，他们的形象也存在刻板印象。
2026 年 5 月，《柳叶刀》发表了对基于人工智能的临床预测模型的公平性指标的范围界定审查。该分析发现，虽然研究人员提出了许多衡量公平性的数学框架，但各个研究中应用的指标不一致，因此很难评估是否取得了真正的进展。
澳大利亚的这项研究增加了一个新的维度，特别关注推理模型，许多人认为人工智能的类别由于其结构化的问题解决方法而更能抵抗偏见。
为什么推理不能消除偏见
推理模型中持续存在的偏见表明这些系统学习方式存在结构性问题。大型语言模型是在大量文本语料库上进行训练的，其中大部分反映了现实世界中存在的偏见、刻板印象和不平等现象。历史上，医学文献本身在临床试验中对白人男性患者的代表性过高，而对女性和少数族裔患者的代表性不足。
推理模型通过生成中间推理步骤来提高逻辑和多步骤问题的性能，但这些推理步骤仍然是由在相同数据上训练的相同底层模型生成的。如果模型已经了解了某些人口群体与某些医疗状况或性格特征之间的关联，那么即使在通过临床场景进行“推理”时，它也可以重现这些关联。
这意味着模型的临床保真度及其产生准确、公平的医疗输出的能力不仅取决于推理架构，还取决于所训练数据的代表性和质量。
医疗保健人工智能的利害关系
这一发现是在人工智能迅速嵌入医疗基础设施之际得出的。医院和卫生系统正在部署人工智能来执行从临床记录和医学成像分析到患者分诊和治疗推荐等任务。 HCPLive 网络于 2026 年 8 月报道，担心如果在没有充分监督的情况下部署有偏见的模型，人工智能可能会加剧医疗保健差距。
如果当被问及患者时，推理模型仍然再现关于种族和性别的刻板印象，那么风险在于这些工具可能会加剧诊断、治疗建议和患者沟通方面现有的差异。系统地将某些条件与某些人口群体联系起来，或者根据种族或性别对患者进行不同治疗的模型可能会在临床环境中造成真正的伤害。
报道该研究的《欧亚评论》指出，各代模型中持续存在的偏见表明，人工智能行业解决医疗偏见的方法可能需要从模型架构改进转向数据治理和代表性公平。
需要改变什么
研究指出了一些必要的改变。首先，必须对医疗人工智能的训练数据进行代表性公平性审核，确保妇女、少数族裔和其他代表性不足的群体得到充分反映。其次，公平性测试应该是在临床环境中部署人工智能之前的强制性步骤，而不是事后的想法。第三，医学界需要标准化基准来评估模型是否公平地对待不同人口群体的患者。
《柳叶刀》范围界定审查发现，公平性指标的应用不一致，凸显了标准化评估框架的必要性。如果不就如何衡量偏见达成一致，就不可能让人工智能开发人员承担责任或跟踪是否取得了进展。
呼吁谨慎
澳大利亚的这项研究警告人们不要认为能力更强的模型本质上更安全。随着推理模型成为医学、法律和金融领域高风险应用的默认模型，医学偏见的研究结果表明，原始能力和公平性是不同的问题，需要单独的解决方案。
对于考虑部署人工智能的医疗保健组织来说，传达的信息很明确：即使是当今最先进的推理模型也可能会重现有害的刻板印象，并且必须通过测试、监督和对公平数据的承诺来积极管理风险。
保持人工智能领先地位
随着人工智能融入医疗保健领域，了解其局限性与庆祝其能力同样重要。为了跟上医学研究、模型安全和医疗保健技术方面的最新人工智能发展，请关注我们正在进行的人工智能行业报道。
阅读更多人工智能新闻 →
