حتى أحدث جيل من نماذج الذكاء الاصطناعي القادرة على التفكير، تعيد إنتاج الصور النمطية العنصرية والجنسانية عند سؤالها عن السيناريوهات الطبية، وفقًا لبحث جديد أجراه علماء أستراليون. تعتبر النتائج، التي تم الإبلاغ عنها في 7 أغسطس 2026، بمثابة تذكير واقعي بأن توسيع نطاق الذكاء النموذجي لا يزيل تلقائيًا التحيزات النظامية المضمنة في بيانات التدريب. لمزيد من أخبار الذكاء الاصطناعي العاجلة حول التقاطع بين الذكاء الاصطناعي والمساواة في الرعاية الصحية، تثير الدراسة أسئلة عاجلة حول نشر هذه الأدوات في البيئات السريرية.
اختبار الجيل القادم من نماذج الاستدلال
سأل الباحثون اثنين من نماذج الاستدلال اللغوي الكبيرة من الجيل التالي، OpenAI's o3-mini وDeepSeek-R1، حول مرضى خياليين لتقييم ما إذا كانت النماذج الأحدث قد تغلبت على التحيزات الموثقة جيدًا لأسلافها. تعتبر نماذج الاستدلال، التي تنفق عمليات حسابية إضافية "للتفكير" من خلال المشكلات قبل الإجابة، بشكل عام أكثر قدرة من روبوتات الدردشة القياسية في المهام المعقدة. وكان الافتراض هو أن هذه القدرة الإضافية قد تجعلها أكثر موثوقية في المجالات الحساسة مثل الطب.
وتشير النتائج إلى خلاف ذلك. وجدت الدراسة أن كلا النموذجين أعادا إنتاج الصور النمطية العنصرية والجنسانية عند تقديمهما مع سيناريوهات سريرية، مما يشير إلى أن القفزة من البنى المعيارية إلى البنى المنطقية لم تحل المشكلة الأساسية المتمثلة في بيانات التدريب المتحيزة.
مشكلة مستمرة عبر الأجيال
تتوافق النتائج مع مجموعة متزايدة من الأدلة التي تشير إلى أن التحيز الطبي في الذكاء الاصطناعي مستمر بشكل عنيد. قامت مراجعة منهجية للأدبيات نُشرت في مجلة Nature في أبريل 2026 بفحص التحيز والتمثيل والإخلاص السريري في الصور التي أنشأها الذكاء الاصطناعي والمستخدمة في التعليم الطبي. وجدت تلك المراجعة نقصًا في تمثيل مجموعات ديموغرافية معينة على نطاق واسع وصورًا نمطية عند ظهورها.
في مايو 2026، نشرت مجلة The Lancet مراجعة شاملة لمقاييس العدالة لنماذج التنبؤ السريري القائمة على الذكاء الاصطناعي. وقد وجد هذا التحليل أنه في حين اقترح الباحثون العديد من الأطر الرياضية لقياس العدالة، فإن المقاييس يتم تطبيقها بشكل غير متسق عبر الدراسات، مما يجعل من الصعب تقييم ما إذا كان يتم تحقيق تقدم حقيقي.
تضيف الدراسة الأسترالية بعدًا جديدًا من خلال التركيز بشكل خاص على نماذج الاستدلال، وهي فئة الذكاء الاصطناعي التي يعتقد الكثيرون أنها ستكون أكثر قوة ضد التحيز بسبب نهجها المنظم في حل المشكلات.
لماذا لا يؤدي التفكير إلى القضاء على التحيز؟
يشير استمرار التحيز في نماذج الاستدلال إلى مشكلة هيكلية في كيفية تعلم هذه الأنظمة. يتم تدريب النماذج اللغوية الكبيرة على مجموعة كبيرة من النصوص، والتي يعكس الكثير منها التحيزات، والقوالب النمطية، وعدم المساواة الموجودة في العالم الحقيقي. لقد ساهمت الأدبيات الطبية نفسها تاريخياً في زيادة تمثيل المرضى الذكور البيض في التجارب السريرية، بينما كانت النساء والأقليات العرقية ممثلة تمثيلاً ناقصاً.
تعمل نماذج الاستدلال على تحسين الأداء في المشكلات المنطقية والمتعددة الخطوات عن طريق إنشاء خطوات استدلال متوسطة، ولكن لا تزال خطوات الاستدلال هذه يتم إنتاجها بواسطة نفس النموذج الأساسي الذي تم تدريبه على نفس البيانات. إذا كان النموذج قد تعلم الارتباطات بين مجموعات سكانية معينة وحالات طبية معينة أو سمات شخصية معينة، فيمكنه إعادة إنتاج تلك الارتباطات حتى أثناء "الاستدلال" من خلال السيناريو السريري.
وهذا يعني أن الإخلاص السريري للنموذج، وقدرته على إنتاج مخرجات طبية دقيقة ومنصفة، لا يعتمد فقط على البنية المنطقية ولكن أيضًا على تمثيل وجودة البيانات التي تم تدريبه عليها.
مخاطر الذكاء الاصطناعي في مجال الرعاية الصحية
تصل هذه النتائج في وقت يتم فيه دمج الذكاء الاصطناعي بسرعة في البنية التحتية للرعاية الصحية. تقوم المستشفيات والأنظمة الصحية بنشر الذكاء الاصطناعي في مهام تتراوح بين التوثيق السريري وتحليل التصوير الطبي وفرز المرضى والتوصية بالعلاج. أبلغت شبكة HCPLive في أغسطس 2026 عن مخاوف من أن الذكاء الاصطناعي قد يؤدي إلى تفاقم الفوارق في الرعاية الصحية إذا تم نشر النماذج المتحيزة دون إشراف كاف.
إذا كانت نماذج الاستدلال لا تزال تنتج الصور النمطية حول العرق والجنس عند سؤالها عن المرضى، فإن الخطر يكمن في أن هذه الأدوات يمكن أن تعزز التباينات القائمة في التشخيص، وتوصيات العلاج، والتواصل مع المرضى. إن النموذج الذي يربط بشكل منهجي حالات معينة بمجموعات ديموغرافية معينة، أو الذي يعامل المرضى بشكل مختلف على أساس العرق أو الجنس، يمكن أن يسبب ضررا حقيقيا في البيئات السريرية.
أشارت مجلة Eurasia Review، في تقريرها عن الدراسة، إلى أن استمرار التحيز عبر أجيال النماذج يشير إلى أن نهج صناعة الذكاء الاصطناعي في معالجة التحيز الطبي قد يحتاج إلى التحول من تحسينات بنية النموذج إلى إدارة البيانات والمساواة التمثيلية.
ما الذي يحتاج إلى التغيير
يشير البحث إلى العديد من التغييرات الضرورية. أولا، يجب مراجعة بيانات التدريب في مجال الذكاء الاصطناعي الطبي من أجل تحقيق العدالة التمثيلية، وضمان تمثيل النساء والأقليات العرقية وغيرها من المجموعات الممثلة تمثيلا ناقصا بشكل مناسب. ثانيا، يجب أن يكون اختبار العدالة خطوة إلزامية قبل نشر الذكاء الاصطناعي في البيئات السريرية، وليس فكرة لاحقة. ثالثا، يحتاج المجتمع الطبي إلى معايير موحدة لتقييم ما إذا كانت النماذج تعالج المرضى بشكل عادل عبر المجموعات الديموغرافية.
إن النتيجة التي توصلت إليها مراجعة نطاق لانسيت بأن مقاييس العدالة يتم تطبيقها بشكل غير متسق تسلط الضوء على الحاجة إلى أطر تقييم موحدة. ومن دون الاتفاق على كيفية قياس التحيز، فمن المستحيل مساءلة مطوري الذكاء الاصطناعي أو تتبع ما إذا كان التقدم قد تم إحرازه.
نداء للحذر
وتعد الدراسة الأسترالية بمثابة تحذير من افتراض أن النماذج الأكثر قدرة هي أكثر أمانًا بطبيعتها. وبما أن نماذج الاستدلال أصبحت هي النموذج الافتراضي للتطبيقات عالية المخاطر في الطب والقانون والتمويل، فإن نتائج التحيز الطبي تشير إلى أن القدرة الأولية والإنصاف هما مشكلتان منفصلتان تتطلبان حلولاً منفصلة.
بالنسبة لمؤسسات الرعاية الصحية التي تفكر في نشر الذكاء الاصطناعي، فإن الرسالة واضحة: حتى نماذج الاستدلال الأكثر تقدما المتاحة اليوم يمكن أن تنتج صورا نمطية ضارة، ويجب إدارة هذه المخاطر بنشاط من خلال الاختبار والرقابة والالتزام بالبيانات العادلة.
ابق في صدارة الذكاء الاصطناعي
مع تحول الذكاء الاصطناعي إلى جزء لا يتجزأ من الرعاية الصحية، فإن فهم حدوده لا يقل أهمية عن الاحتفال بقدراته. لمواكبة أحدث تطورات الذكاء الاصطناعي في الأبحاث الطبية وسلامة النماذج وتكنولوجيا الرعاية الصحية، تابع [تغطية صناعة الذكاء الاصطناعي] المستمرة (https://aibuzzwire.news).
اقرأ المزيد من أخبار الذكاء الاصطناعي →
