آسٹریلیائی سائنسدانوں کی نئی تحقیق کے مطابق، یہاں تک کہ استدلال کے قابل AI ماڈلز کی تازہ ترین نسل نسلی اور صنفی دقیانوسی تصورات کو دوبارہ پیش کرتی ہے جب طبی منظرناموں کے بارے میں پوچھا جاتا ہے۔ 7 اگست 2026 کو رپورٹ کردہ نتائج ایک سنجیدہ یاد دہانی ہیں کہ ماڈل کی ذہانت کو بڑھانا تربیتی ڈیٹا میں شامل نظامی تعصبات کو خود بخود ختم نہیں کرتا ہے۔ مصنوعی ذہانت اور ہیلتھ کیئر ایکویٹی کے تقاطع پر مزید بریکنگ AI نیوز کے لیے، مطالعہ ان ٹولز کو طبی ترتیبات میں تعینات کرنے کے بارے میں فوری سوالات اٹھاتا ہے۔
استدلال کے ماڈلز کی اگلی نسل کی جانچ کرنا
محققین نے دو اگلی نسل کے استدلال والے بڑے لینگوئج ماڈلز، OpenAI کے o3-mini اور DeepSeek-R1 سے خیالی مریضوں کے بارے میں پوچھا کہ آیا نئے ماڈلز نے اپنے پیشروؤں کے اچھی طرح سے دستاویزی تعصبات پر قابو پا لیا ہے۔ استدلال کے ماڈلز، جو جواب دینے سے پہلے مسائل کے ذریعے اضافی گنتی "سوچ" کرتے ہیں، عام طور پر پیچیدہ کاموں میں معیاری چیٹ بوٹس سے زیادہ قابل سمجھے جاتے ہیں۔ مفروضہ یہ ہے کہ یہ اضافی صلاحیت انہیں ادویات جیسے حساس ڈومینز میں بھی زیادہ قابل اعتماد بنا سکتی ہے۔
نتائج دوسری صورت میں تجویز کرتے ہیں۔ تحقیق سے پتا چلا ہے کہ طبی منظرناموں کے ساتھ پیش کیے جانے پر دونوں ماڈلز نے نسلی اور صنفی دقیانوسی تصورات کو دوبارہ پیش کیا، جس سے یہ ظاہر ہوتا ہے کہ معیار سے استدلال کے فن تعمیر تک کی چھلانگ نے متعصب تربیتی ڈیٹا کے بنیادی مسئلے کو حل نہیں کیا ہے۔
نسلوں کے درمیان ایک مستقل مسئلہ
نتائج اس بات کے ثبوت کے بڑھتے ہوئے جسم کے ساتھ مطابقت رکھتے ہیں کہ AI میں طبی تعصب ضدی طور پر مستقل ہے۔ نیچر میں اپریل 2026 میں شائع ہونے والے ایک منظم لٹریچر کے جائزے میں طبی تعلیم کے لیے استعمال ہونے والی AI سے تیار کردہ تصاویر میں تعصب، نمائندگی اور کلینیکل وفاداری کا جائزہ لیا گیا۔ اس جائزے میں کچھ آبادیاتی گروپوں اور دقیانوسی تصورات کی وسیع پیمانے پر کم نمائندگی پائی گئی جب وہ ظاہر ہوئے۔
مئی 2026 میں، دی لانسیٹ نے AI پر مبنی طبی پیشین گوئی کے ماڈلز کے لیے فیئرنس میٹرکس کا ایک اسکوپنگ جائزہ شائع کیا۔ اس تجزیے سے پتا چلا کہ جب محققین نے شفافیت کی پیمائش کے لیے متعدد ریاضیاتی فریم ورک تجویز کیے ہیں، میٹرکس کو تمام مطالعات میں متضاد طور پر لاگو کیا جاتا ہے، جس سے یہ اندازہ لگانا مشکل ہو جاتا ہے کہ آیا حقیقی پیش رفت ہو رہی ہے۔
آسٹریلوی مطالعہ نے خاص طور پر استدلال کے ماڈلز پر توجہ مرکوز کرتے ہوئے ایک نئی جہت کا اضافہ کیا، AI کا وہ زمرہ جس کے بارے میں بہت سے لوگوں کا خیال ہے کہ ان کے ساختہ مسئلہ حل کرنے کے طریقہ کار کی وجہ سے تعصب کے خلاف زیادہ مضبوط ہوگا۔
استدلال تعصب کو کیوں ختم نہیں کرتا؟
استدلال کے ماڈلز میں تعصب کی برقراری ایک ساختی مسئلے کی طرف اشارہ کرتی ہے کہ یہ نظام کیسے سیکھتے ہیں۔ بڑے زبان کے ماڈلز کو متن کے وسیع کارپورا پر تربیت دی جاتی ہے، جن میں سے بیشتر حقیقی دنیا میں موجود تعصبات، دقیانوسی تصورات اور عدم مساوات کی عکاسی کرتے ہیں۔ طبی لٹریچر نے خود تاریخی طور پر کلینکل ٹرائلز میں سفید فام مرد مریضوں کی زیادہ نمائندگی کی ہے اور خواتین اور نسلی اقلیتوں کی کم نمائندگی کی ہے۔
استدلال کے ماڈل انٹرمیڈیٹ استدلال کے اقدامات پیدا کرکے منطق اور کثیر مرحلہ مسائل پر کارکردگی کو بہتر بناتے ہیں، لیکن وہ استدلال کے اقدامات اب بھی اسی ڈیٹا پر تربیت یافتہ اسی بنیادی ماڈل کے ذریعہ تیار کیے جاتے ہیں۔ اگر ماڈل نے بعض آبادیاتی گروپوں اور بعض طبی حالات یا شخصیت کے خصائص کے درمیان تعلق سیکھ لیا ہے، تو وہ طبی منظر نامے کے ذریعے "استدلال" کرتے ہوئے بھی ان انجمنوں کو دوبارہ پیش کر سکتا ہے۔
اس کا مطلب یہ ہے کہ ایک ماڈل کی طبی وفاداری، درست، مساوی طبی نتائج پیدا کرنے کی اس کی صلاحیت، صرف استدلال کے فن تعمیر پر نہیں بلکہ اس ڈیٹا کی نمائندگی اور معیار پر منحصر ہے جس پر اسے تربیت دی گئی تھی۔
صحت کی دیکھ بھال AI کے داؤ پر
نتائج ایک ایسے لمحے پر پہنچتے ہیں جب AI صحت کی دیکھ بھال کے بنیادی ڈھانچے میں تیزی سے سرایت کر رہا ہے۔ ہسپتال اور صحت کے نظام طبی دستاویزات اور میڈیکل امیجنگ کے تجزیے سے لے کر مریض کے علاج اور علاج کی سفارش تک کے کاموں کے لیے AI کو تعینات کر رہے ہیں۔ HCPLive نیٹ ورک نے اگست 2026 میں ان خدشات کے بارے میں اطلاع دی تھی کہ اگر مناسب نگرانی کے بغیر جانبدار ماڈلز کو تعینات کیا گیا تو AI صحت کی دیکھ بھال کے تفاوت کو مزید خراب کر سکتا ہے۔
اگر استدلال کے ماڈل اب بھی نسل اور جنس کے بارے میں دقیانوسی تصورات کو دوبارہ پیش کرتے ہیں جب مریضوں کے بارے میں پوچھا جاتا ہے، تو خطرہ یہ ہے کہ یہ اوزار تشخیص، علاج کی سفارشات، اور مریض کے مواصلات میں موجودہ تفاوت کو تقویت دے سکتے ہیں۔ ایک ایسا ماڈل جو منظم طریقے سے مخصوص حالات کو مخصوص آبادیاتی گروپوں کے ساتھ جوڑتا ہے، یا جو مریضوں کے ساتھ نسل یا جنس کی بنیاد پر مختلف سلوک کرتا ہے، طبی ترتیبات میں حقیقی نقصان کا باعث بن سکتا ہے۔
یوریشیا ریویو، اس مطالعے کی رپورٹنگ کرتے ہوئے، نوٹ کیا کہ ماڈل نسلوں میں تعصب کی برقراری سے پتہ چلتا ہے کہ طبی تعصب سے نمٹنے کے لیے اے آئی انڈسٹری کے نقطہ نظر کو ماڈل آرکیٹیکچر کی بہتری سے ڈیٹا گورننس اور نمائندگی کی ایکویٹی کی طرف منتقل کرنے کی ضرورت ہو سکتی ہے۔
کیا تبدیل کرنے کی ضرورت ہے۔
تحقیق کئی ضروری تبدیلیوں کی طرف اشارہ کرتی ہے۔ سب سے پہلے، طبی AI کے تربیتی ڈیٹا کا نمائندہ مساوات کے لیے آڈٹ کیا جانا چاہیے، اس بات کو یقینی بناتے ہوئے کہ خواتین، نسلی اقلیتوں، اور دیگر کم نمائندگی والے گروہوں کی مناسب عکاسی ہو۔ دوسرا، طبی ترتیبات میں AI کو تعینات کرنے سے پہلے منصفانہ جانچ ایک لازمی قدم ہونا چاہیے، نہ کہ سوچنے کے بعد۔ تیسرا، طبی برادری کو یہ جانچنے کے لیے معیاری بینچ مارکس کی ضرورت ہے کہ آیا ماڈل آبادیاتی گروپوں میں مریضوں کے ساتھ مساوی سلوک کرتے ہیں۔
لینسیٹ اسکوپنگ ریویو کا یہ پتہ چلا ہے کہ فیئرنس میٹرکس کا اطلاق متضاد طور پر ہوتا ہے معیاری تشخیصی فریم ورک کی ضرورت کو اجاگر کرتا ہے۔ تعصب کی پیمائش کرنے کے طریقے پر معاہدے کے بغیر، AI ڈویلپرز کو جوابدہ ٹھہرانا یا اس بات کا پتہ لگانا ناممکن ہے کہ آیا پیش رفت ہو رہی ہے۔
احتیاط کی اپیل
آسٹریلیائی مطالعہ یہ فرض کرنے کے خلاف ایک انتباہ کے طور پر کام کرتا ہے کہ زیادہ قابل ماڈل فطری طور پر محفوظ ہیں۔ چونکہ استدلال کے ماڈل طب، قانون اور مالیات میں اعلیٰ اسٹیک ایپلی کیشنز کے لیے پہلے سے طے شدہ بن جاتے ہیں، طبی تعصب کے نتائج بتاتے ہیں کہ خام صلاحیت اور ایکویٹی الگ الگ مسائل ہیں جن کے لیے الگ الگ حل درکار ہیں۔
AI کی تعیناتی پر غور کرنے والی صحت کی دیکھ بھال کرنے والی تنظیموں کے لیے، پیغام واضح ہے: یہاں تک کہ آج دستیاب جدید ترین استدلال کے ماڈل بھی نقصان دہ دقیانوسی تصورات کو دوبارہ پیش کر سکتے ہیں، اور اس خطرے کا فعال طور پر جانچ، نگرانی، اور منصفانہ ڈیٹا کے عزم کے ذریعے انتظام کیا جانا چاہیے۔
AI سے آگے رہیں
جیسا کہ AI صحت کی دیکھ بھال میں سرایت کرتا ہے، اس کی حدود کو سمجھنا اتنا ہی اہم ہے جتنا اس کی صلاحیتوں کو منانا۔ طبی تحقیق، ماڈل سیفٹی، اور ہیلتھ کیئر ٹیکنالوجی میں AI کی تازہ ترین پیش رفت سے باخبر رہنے کے لیے، ہماری جاری AI انڈسٹری کوریج پر عمل کریں۔
مزید AI خبریں پڑھیں →
