بر اساس تحقیقات جدید دانشمندان استرالیایی، حتی آخرین نسل از مدلهای هوش مصنوعی با قابلیت استدلال، زمانی که در مورد سناریوهای پزشکی از آنها سؤال میشود، کلیشههای نژادی و جنسیتی را بازتولید میکنند. این یافته ها که در 7 آگوست 2026 گزارش شد، یادآوری هشیارکننده ای است که افزایش هوش مدل به طور خودکار سوگیری های سیستمی تعبیه شده در داده های آموزشی را از بین نمی برد. برای اطلاعات بیشتر [اخبار جدید هوش مصنوعی] (https://aibuzzwire.news) در مورد تلاقی هوش مصنوعی و برابری مراقبت های بهداشتی، این مطالعه سؤالات فوری را در مورد استقرار این ابزارها در تنظیمات بالینی مطرح می کند.
آزمایش نسل بعدی مدلهای استدلال
محققان از دو مدل زبان بزرگ استدلالی نسل بعدی، OpenAI's o3-mini و DeepSeek-R1 درباره بیماران خیالی پرسیدند تا ارزیابی کنند که آیا مدل های جدیدتر بر تعصبات مستند قبلی خود غلبه کرده اند یا خیر. مدلهای استدلال، که محاسبات اضافی را قبل از پاسخ دادن، صرف «تفکر» از طریق مسائل میکنند، معمولاً نسبت به چت رباتهای استاندارد در کارهای پیچیده تواناتر هستند. فرض بر این بود که این قابلیت افزوده ممکن است آنها را در حوزه های حساسی مانند پزشکی قابل اعتمادتر کند.
نتایج چیز دیگری را نشان می دهد. این مطالعه نشان داد که هر دو مدل زمانی که با سناریوهای بالینی ارائه میشوند، کلیشههای نژادی و جنسیتی را بازتولید میکنند، که نشان میدهد جهش از معماری استاندارد به استدلال، مشکل اساسی دادههای آموزشی جانبدارانه را حل نکرده است.
یک مشکل دائمی در بین نسل ها
یافتهها با مجموعهای از شواهد در حال افزایش سازگاری دارد که نشان میدهد سوگیری پزشکی در هوش مصنوعی سرسختانه پایدار است. یک مرور ادبیات سیستماتیک منتشر شده در Nature در آوریل 2026 سوگیری، بازنمایی و وفاداری بالینی را در تصاویر تولید شده توسط هوش مصنوعی مورد استفاده برای آموزش پزشکی بررسی کرد. این بررسی نشان میدهد که بازنمایی گسترده از گروههای جمعیتی خاص و تصویرهای کلیشهای زمانی که ظاهر شدند، وجود نداشت.
در می 2026، The Lancet مروری بر معیارهای انصاف برای مدلهای پیشبینی بالینی مبتنی بر هوش مصنوعی منتشر کرد. آن تجزیه و تحلیل نشان داد که در حالی که محققان چارچوبهای ریاضی متعددی را برای اندازهگیری انصاف پیشنهاد کردهاند، معیارها بهطور متناقض در بین مطالعات اعمال میشوند و ارزیابی اینکه آیا پیشرفت واقعی انجام شده است یا خیر.
مطالعه استرالیایی با تمرکز ویژه بر مدلهای استدلالی، یک بعد جدید میافزاید، دستهای از هوش مصنوعی که بسیاری معتقد بودند به دلیل رویکرد حل مسئله ساختاریافتهاش در برابر سوگیری قویتر است.
چرا استدلال تعصب را از بین نمی برد
تداوم سوگیری در مدل های استدلالی به یک مسئله ساختاری در نحوه یادگیری این سیستم ها اشاره می کند. مدلهای زبانی بزرگ بر روی مجموعههای وسیعی از متن آموزش داده میشوند، که بیشتر آنها منعکسکننده تعصبات، کلیشهها و نابرابریهای موجود در دنیای واقعی هستند. خود ادبیات پزشکی از لحاظ تاریخی بیش از حد بیماران مرد سفیدپوست را در کارآزماییهای بالینی نشان میدهد و زنان و اقلیتهای نژادی را کمتر نشان میدهد.
مدلهای استدلالی با ایجاد مراحل استدلال میانی، عملکرد را در مسائل منطقی و چند مرحلهای بهبود میبخشند، اما این مراحل استدلال همچنان توسط همان مدل زیربنایی آموزشدیده بر روی دادههای مشابه تولید میشوند. اگر مدل ارتباط بین گروههای جمعیتی خاص و شرایط پزشکی خاص یا ویژگیهای شخصیتی را یاد گرفته باشد، میتواند آن ارتباطها را حتی در حین «استدلال» از طریق یک سناریوی بالینی بازتولید کند.
این بدان معنی است که وفاداری بالینی یک مدل، توانایی آن برای تولید خروجی های پزشکی دقیق و منصفانه، نه تنها به معماری استدلال، بلکه به نمایندگی و کیفیت داده هایی که بر روی آن آموزش داده شده است، بستگی دارد.
خطرات هوش مصنوعی مراقبت های بهداشتی
این یافته ها در لحظه ای به دست می آیند که هوش مصنوعی به سرعت در زیرساخت های مراقبت های بهداشتی جاسازی می شود. بیمارستان ها و سیستم های بهداشتی هوش مصنوعی را برای کارهایی از مستندات بالینی و تجزیه و تحلیل تصویربرداری پزشکی گرفته تا تریاژ بیمار و توصیه های درمانی به کار می گیرند. شبکه HCPLive در آگوست 2026 در مورد این نگرانی گزارش داد که هوش مصنوعی می تواند نابرابری های مراقبت های بهداشتی را بدتر کند اگر مدل های مغرضانه بدون نظارت کافی به کار گرفته شوند.
اگر مدلهای استدلالی هنوز کلیشههای مربوط به نژاد و جنسیت را در مورد بیماران بازتولید میکنند، خطر این است که این ابزارها میتوانند تفاوتهای موجود در تشخیص، توصیههای درمانی و ارتباطات بیمار را تقویت کنند. مدلی که به طور سیستماتیک شرایط خاصی را با گروههای جمعیتی خاص مرتبط میکند یا با بیماران بر اساس نژاد یا جنسیت متفاوت رفتار میکند، میتواند باعث آسیب واقعی در محیطهای بالینی شود.
اوراسیا ریویو که در مورد این مطالعه گزارش میدهد، خاطرنشان کرد که تداوم سوگیری در نسلهای مدل نشان میدهد که رویکرد صنعت هوش مصنوعی برای پرداختن به سوگیری پزشکی ممکن است نیاز به تغییر از بهبود معماری مدل به حاکمیت داده و برابری بازنمایی داشته باشد.
آنچه باید تغییر کند
تحقیق به چندین تغییر ضروری اشاره می کند. اولاً، دادههای آموزشی برای هوش مصنوعی پزشکی باید از نظر برابری نمایندگی ممیزی شود، و اطمینان حاصل شود که زنان، اقلیتهای نژادی و سایر گروههای دارای نمایندگی کمتر به اندازه کافی منعکس میشوند. دوم، آزمایش انصاف باید یک مرحله اجباری قبل از استقرار هوش مصنوعی در محیط های بالینی باشد، نه یک فکر بعدی. سوم، جامعه پزشکی به معیارهای استاندارد شده برای ارزیابی اینکه آیا مدلها به طور عادلانه با بیماران در گروههای جمعیتی رفتار میکنند یا خیر، نیاز دارد.
یافته های بررسی محدوده لنست مبنی بر اینکه معیارهای انصاف به طور متناقض اعمال می شوند، نیاز به چارچوب های ارزیابی استاندارد را برجسته می کند. بدون توافق در مورد نحوه اندازه گیری سوگیری، غیرممکن است که توسعه دهندگان هوش مصنوعی پاسخگو باشند یا ردیابی پیشرفت انجام شده یا خیر.
فراخوانی برای احتیاط
مطالعه استرالیایی به عنوان هشداری در برابر فرض اینکه مدل های توانمندتر ذاتا ایمن تر هستند عمل می کند. از آنجایی که مدلهای استدلالی پیشفرض برای کاربردهای پرمخاطره در پزشکی، حقوق و امور مالی میشوند، یافتههای سوگیری پزشکی نشان میدهد که قابلیت خام و برابری مسائل جداگانهای هستند که به راهحلهای جداگانه نیاز دارند.
برای سازمانهای مراقبتهای بهداشتی که بهکارگیری هوش مصنوعی را در نظر میگیرند، این پیام واضح است: حتی پیشرفتهترین مدلهای استدلال موجود امروز میتوانند کلیشههای مضر را بازتولید کنند و این خطر باید به طور فعال از طریق آزمایش، نظارت و تعهد به دادههای عادلانه مدیریت شود.
از هوش مصنوعی جلوتر بمانید
همانطور که هوش مصنوعی در مراقبت های بهداشتی جاسازی می شود، درک محدودیت های آن به همان اندازه مهم است که توانایی های آن را جشن بگیرید. برای همگام شدن با آخرین پیشرفتهای هوش مصنوعی در تحقیقات پزشکی، ایمنی مدل، و فناوری مراقبتهای بهداشتی، [پوشش صنعت هوش مصنوعی] (https://aibuzzwire.news) را دنبال کنید.
بیشتر بخوانید اخبار هوش مصنوعی →
