Theo nghiên cứu mới của các nhà khoa học Úc, ngay cả thế hệ mô hình AI có khả năng suy luận mới nhất cũng tái tạo các khuôn mẫu về chủng tộc và giới tính khi được hỏi về các tình huống y tế. Những phát hiện được báo cáo vào ngày 7 tháng 8 năm 2026 là một lời nhắc nhở nghiêm túc rằng việc mở rộng quy mô trí thông minh của mô hình không tự động loại bỏ những thành kiến ​​​​hệ thống có trong dữ liệu đào tạo. Để biết thêm tin nóng về AI về sự giao thoa giữa trí tuệ nhân tạo và công bằng trong chăm sóc sức khỏe, nghiên cứu này đặt ra những câu hỏi cấp bách về việc triển khai những công cụ này trong môi trường lâm sàng.

Thử nghiệm thế hệ tiếp theo của các mô hình suy luận

Các nhà nghiên cứu đã hỏi hai mô hình ngôn ngữ lớn lý luận thế hệ tiếp theo, o3-mini và DeepSeek-R1 của OpenAI, về các bệnh nhân hư cấu để đánh giá liệu các mô hình mới hơn có vượt qua được những thành kiến ​​được ghi chép rõ ràng của người tiền nhiệm hay không. Các mô hình lý luận, sử dụng tính toán bổ sung để "suy nghĩ" các vấn đề trước khi trả lời, thường được coi là có khả năng cao hơn các chatbot tiêu chuẩn trong các nhiệm vụ phức tạp. Giả định rằng khả năng bổ sung này cũng có thể khiến chúng trở nên đáng tin cậy hơn trong các lĩnh vực nhạy cảm như y học.

Kết quả cho thấy điều ngược lại. Nghiên cứu cho thấy cả hai mô hình đều tái tạo các khuôn mẫu về chủng tộc và giới tính khi trình bày các tình huống lâm sàng, cho thấy bước nhảy vọt từ kiến ​​trúc tiêu chuẩn sang kiến ​​trúc lý luận vẫn chưa giải quyết được vấn đề cơ bản về dữ liệu đào tạo sai lệch.

Một vấn đề dai dẳng qua nhiều thế hệ

Những phát hiện này phù hợp với ngày càng nhiều bằng chứng cho thấy sự thiên vị y tế trong AI vẫn tồn tại dai dẳng. Một bài đánh giá tài liệu có hệ thống được xuất bản trên tạp chí Nature vào tháng 4 năm 2026 đã kiểm tra độ thiên vị, tính trình bày và độ trung thực lâm sàng trong các hình ảnh do AI tạo ra được sử dụng cho giáo dục y tế. Đánh giá đó đã phát hiện ra sự thiếu hiểu biết rộng rãi về một số nhóm nhân khẩu học nhất định và những miêu tả rập khuôn khi chúng xuất hiện.

Vào tháng 5 năm 2026, The Lancet đã xuất bản bài đánh giá phạm vi về các chỉ số công bằng cho các mô hình dự đoán lâm sàng dựa trên AI. Phân tích đó cho thấy rằng mặc dù các nhà nghiên cứu đã đề xuất nhiều khuôn khổ toán học để đo lường sự công bằng, nhưng các số liệu được áp dụng không nhất quán trong các nghiên cứu, gây khó khăn cho việc đánh giá liệu có đạt được tiến bộ thực sự hay không.

Nghiên cứu của Úc bổ sung thêm một khía cạnh mới bằng cách tập trung cụ thể vào các mô hình lý luận, loại AI mà nhiều người tin rằng sẽ chống lại sự thiên vị mạnh mẽ hơn nhờ cách tiếp cận giải quyết vấn đề có cấu trúc của chúng.

Tại sao lý luận không loại bỏ được thành kiến

Sự thiên vị dai dẳng trong các mô hình lý luận chỉ ra một vấn đề mang tính cấu trúc trong cách các hệ thống này học hỏi. Các mô hình ngôn ngữ lớn được đào tạo trên kho văn bản khổng lồ, phần lớn trong số đó phản ánh những thành kiến, khuôn mẫu và sự bất bình đẳng hiện có trong thế giới thực. Bản thân tài liệu y khoa trong lịch sử đã đại diện quá mức cho các bệnh nhân nam da trắng trong các thử nghiệm lâm sàng và đánh giá thấp phụ nữ cũng như các chủng tộc thiểu số.

Các mô hình lý luận cải thiện hiệu suất đối với các vấn đề logic và nhiều bước bằng cách tạo ra các bước lý luận trung gian, nhưng các bước lý luận đó vẫn được tạo ra bởi cùng một mô hình cơ bản được huấn luyện trên cùng một dữ liệu. Nếu mô hình đã học được mối liên hệ giữa các nhóm nhân khẩu học nhất định và các tình trạng y tế hoặc đặc điểm tính cách nhất định, thì nó có thể tái tạo các mối liên hệ đó ngay cả khi "lý luận" thông qua một tình huống lâm sàng.

Điều này có nghĩa là độ trung thực lâm sàng của một mô hình, khả năng tạo ra kết quả y tế chính xác, công bằng, không chỉ phụ thuộc vào kiến ​​trúc lý luận mà còn phụ thuộc vào tính đại diện và chất lượng của dữ liệu mà nó được đào tạo.

Tầm quan trọng của AI chăm sóc sức khỏe

Những phát hiện này đến vào thời điểm AI đang nhanh chóng được đưa vào cơ sở hạ tầng chăm sóc sức khỏe. Các bệnh viện và hệ thống y tế đang triển khai AI cho các nhiệm vụ từ tài liệu lâm sàng và phân tích hình ảnh y tế đến phân loại bệnh nhân và đề xuất điều trị. Mạng HCPLive đã báo cáo vào tháng 8 năm 2026 về mối lo ngại rằng AI có thể làm trầm trọng thêm sự chênh lệch về chăm sóc sức khỏe nếu các mô hình thiên vị được triển khai mà không có sự giám sát đầy đủ.

Nếu các mô hình lý luận vẫn tái tạo những định kiến ​​về chủng tộc và giới tính khi được hỏi về bệnh nhân thì nguy cơ là những công cụ này có thể củng cố những khác biệt hiện có trong chẩn đoán, khuyến nghị điều trị và giao tiếp với bệnh nhân. Một mô hình liên kết một cách có hệ thống các tình trạng nhất định với các nhóm nhân khẩu học nhất định hoặc điều trị bệnh nhân khác nhau dựa trên chủng tộc hoặc giới tính, có thể gây ra tác hại thực sự trong môi trường lâm sàng.

Tạp chí Eurasia Review, báo cáo về nghiên cứu, lưu ý rằng sự thiên vị tồn tại qua các thế hệ mô hình cho thấy rằng cách tiếp cận của ngành AI để giải quyết sự thiên vị y tế có thể cần phải chuyển từ cải tiến kiến ​​trúc mô hình sang quản trị dữ liệu và công bằng đại diện.

Những gì cần thay đổi

Nghiên cứu chỉ ra một số thay đổi cần thiết. Đầu tiên, dữ liệu đào tạo về AI y tế phải được kiểm tra về tính công bằng trong đại diện, đảm bảo rằng phụ nữ, chủng tộc thiểu số và các nhóm ít đại diện khác được phản ánh đầy đủ. Thứ hai, kiểm tra tính công bằng phải là bước bắt buộc trước khi triển khai AI trong môi trường lâm sàng chứ không phải là bước suy nghĩ lại. Thứ ba, cộng đồng y tế cần các tiêu chuẩn chuẩn hóa để đánh giá liệu các mô hình có đối xử công bằng với bệnh nhân giữa các nhóm nhân khẩu học hay không.

Đánh giá phạm vi Lancet phát hiện ra rằng các số liệu về tính công bằng được áp dụng không nhất quán, nêu bật sự cần thiết của các khung đánh giá được tiêu chuẩn hóa. Nếu không có thỏa thuận về cách đo lường sự thiên vị, thì không thể buộc các nhà phát triển AI phải chịu trách nhiệm hoặc theo dõi xem tiến trình có được thực hiện hay không.

Lời kêu gọi thận trọng

Nghiên cứu của Úc đóng vai trò như một lời cảnh báo chống lại việc cho rằng những mẫu xe có khả năng hơn sẽ an toàn hơn. Khi các mô hình lý luận trở thành mặc định cho các ứng dụng mang tính rủi ro cao trong y học, luật và tài chính, các phát hiện về sai lệch y tế cho thấy năng lực thô và sự công bằng là những vấn đề riêng biệt đòi hỏi các giải pháp riêng biệt.

Đối với các tổ chức chăm sóc sức khỏe đang xem xét triển khai AI, thông điệp rất rõ ràng: ngay cả những mô hình lý luận tiên tiến nhất hiện nay cũng có thể tạo ra những khuôn mẫu có hại và rủi ro đó phải được quản lý tích cực thông qua thử nghiệm, giám sát và cam kết về dữ liệu công bằng.

Đi trước AI

Khi AI được đưa vào lĩnh vực chăm sóc sức khỏe, việc hiểu những hạn chế của nó cũng quan trọng như việc tôn vinh khả năng của nó. Để cập nhật những phát triển AI mới nhất trong nghiên cứu y tế, an toàn mô hình và công nghệ chăm sóc sức khỏe, hãy theo dõi tin tức liên tục về ngành AI của chúng tôi.

Đọc thêm tin tức về AI →