ऑस्ट्रेलियाई वैज्ञानिकों के नए शोध के अनुसार, यहां तक कि तर्क-सक्षम एआई मॉडल की नवीनतम पीढ़ी भी चिकित्सा परिदृश्यों के बारे में पूछे जाने पर नस्लीय और लैंगिक रूढ़िवादिता को पुन: पेश करती है। 7 अगस्त, 2026 को रिपोर्ट किए गए निष्कर्ष एक गंभीर अनुस्मारक हैं कि मॉडल इंटेलिजेंस को बढ़ाने से प्रशिक्षण डेटा में अंतर्निहित प्रणालीगत पूर्वाग्रह स्वचालित रूप से समाप्त नहीं होते हैं। कृत्रिम बुद्धिमत्ता और स्वास्थ्य देखभाल इक्विटी के प्रतिच्छेदन पर अधिक [ब्रेकिंग एआई समाचार] (https://aibuzzwire.news) के लिए, अध्ययन इन उपकरणों को नैदानिक सेटिंग्स में तैनात करने के बारे में तत्काल प्रश्न उठाता है।
रीज़निंग मॉडल की अगली पीढ़ी का परीक्षण
शोधकर्ताओं ने दो अगली पीढ़ी के तर्कशील बड़े भाषा मॉडल, ओपनएआई के ओ3-मिनी और डीपसीक-आर1 से काल्पनिक रोगियों के बारे में पूछा ताकि यह आकलन किया जा सके कि क्या नए मॉडल ने अपने पूर्ववर्तियों के अच्छी तरह से प्रलेखित पूर्वाग्रहों को दूर कर लिया है। रीज़निंग मॉडल, जो उत्तर देने से पहले समस्याओं के माध्यम से अतिरिक्त गणना "सोच" करते हैं, आमतौर पर जटिल कार्यों में मानक चैटबॉट्स की तुलना में अधिक सक्षम माने जाते हैं। धारणा यह रही है कि यह अतिरिक्त क्षमता उन्हें चिकित्सा जैसे संवेदनशील क्षेत्रों में भी अधिक विश्वसनीय बना सकती है।
नतीजे कुछ और ही सुझाते हैं. अध्ययन में पाया गया कि नैदानिक परिदृश्यों के साथ प्रस्तुत किए जाने पर दोनों मॉडलों ने नस्लीय और लिंग रूढ़िवादिता को पुन: पेश किया, यह दर्शाता है कि मानक से तर्क वास्तुकला तक की छलांग ने पक्षपातपूर्ण प्रशिक्षण डेटा की मूलभूत समस्या का समाधान नहीं किया है।
पीढ़ियों से चली आ रही एक समस्या
ये निष्कर्ष बढ़ते सबूतों के अनुरूप हैं कि एआई में चिकित्सा पूर्वाग्रह लगातार कायम है। अप्रैल 2026 में नेचर में प्रकाशित एक व्यवस्थित साहित्य समीक्षा में चिकित्सा शिक्षा के लिए उपयोग की जाने वाली एआई-जनित छवियों में पूर्वाग्रह, प्रतिनिधित्व और नैदानिक निष्ठा की जांच की गई। उस समीक्षा में पाया गया कि कुछ जनसांख्यिकीय समूहों का व्यापक रूप से कम प्रतिनिधित्व किया गया और जब वे सामने आए तो घिसे-पिटे चित्रण हुए।
मई 2026 में, द लैंसेट ने एआई-आधारित नैदानिक भविष्यवाणी मॉडल के लिए निष्पक्षता मेट्रिक्स की एक स्कोपिंग समीक्षा प्रकाशित की। उस विश्लेषण में पाया गया कि जबकि शोधकर्ताओं ने निष्पक्षता को मापने के लिए कई गणितीय ढांचे का प्रस्ताव दिया है, मेट्रिक्स को अध्ययनों में असंगत रूप से लागू किया जाता है, जिससे यह आकलन करना मुश्किल हो जाता है कि वास्तविक प्रगति हो रही है या नहीं।
ऑस्ट्रेलियाई अध्ययन विशेष रूप से तर्क मॉडल पर ध्यान केंद्रित करके एक नया आयाम जोड़ता है, एआई की श्रेणी जो कई लोगों का मानना है कि उनके संरचित समस्या-समाधान दृष्टिकोण के कारण पूर्वाग्रह के खिलाफ अधिक मजबूत होगी।
तर्क पूर्वाग्रह को ख़त्म क्यों नहीं करता
तर्क मॉडल में पूर्वाग्रह की दृढ़ता इन प्रणालियों के सीखने के तरीके में एक संरचनात्मक मुद्दे की ओर इशारा करती है। बड़े भाषा मॉडलों को पाठ के विशाल संग्रह पर प्रशिक्षित किया जाता है, जिनमें से अधिकांश वास्तविक दुनिया में मौजूद पूर्वाग्रहों, रूढ़ियों और असमानताओं को दर्शाते हैं। चिकित्सा साहित्य में ऐतिहासिक रूप से नैदानिक परीक्षणों में श्वेत पुरुष रोगियों को अधिक प्रतिनिधित्व दिया गया है और महिलाओं और नस्लीय अल्पसंख्यकों को कम प्रतिनिधित्व दिया गया है।
तर्क मॉडल मध्यवर्ती तर्क चरणों को उत्पन्न करके तर्क और बहु-चरणीय समस्याओं पर प्रदर्शन में सुधार करते हैं, लेकिन उन तर्क चरणों को अभी भी उसी डेटा पर प्रशिक्षित उसी अंतर्निहित मॉडल द्वारा उत्पादित किया जाता है। यदि मॉडल ने कुछ जनसांख्यिकीय समूहों और कुछ चिकित्सीय स्थितियों या व्यक्तित्व लक्षणों के बीच संबंध सीखे हैं, तो यह नैदानिक परिदृश्य के माध्यम से "तर्क" करते हुए भी उन संघों को पुन: उत्पन्न कर सकता है।
इसका मतलब यह है कि किसी मॉडल की नैदानिक निष्ठा, सटीक, न्यायसंगत चिकित्सा आउटपुट उत्पन्न करने की इसकी क्षमता न केवल तर्क वास्तुकला पर निर्भर करती है, बल्कि उस डेटा की प्रतिनिधित्वशीलता और गुणवत्ता पर भी निर्भर करती है जिस पर इसे प्रशिक्षित किया गया था।
हेल्थकेयर एआई के लिए दांव
ये निष्कर्ष ऐसे समय में सामने आए हैं जब एआई को तेजी से स्वास्थ्य देखभाल के बुनियादी ढांचे में शामिल किया जा रहा है। अस्पताल और स्वास्थ्य प्रणालियाँ नैदानिक दस्तावेज़ीकरण और चिकित्सा इमेजिंग विश्लेषण से लेकर रोगी परीक्षण और उपचार की सिफारिश तक के कार्यों के लिए एआई को तैनात कर रही हैं। HCPLive नेटवर्क ने अगस्त 2026 में इस चिंता पर रिपोर्ट दी थी कि यदि पक्षपातपूर्ण मॉडल पर्याप्त निरीक्षण के बिना तैनात किए जाते हैं तो AI स्वास्थ्य देखभाल संबंधी असमानताओं को और खराब कर सकता है।
यदि मरीजों के बारे में पूछे जाने पर तर्कशील मॉडल अभी भी नस्ल और लिंग के बारे में रूढ़िवादिता को दोहराते हैं, तो जोखिम यह है कि ये उपकरण निदान, उपचार की सिफारिशों और रोगी संचार में मौजूदा असमानताओं को मजबूत कर सकते हैं। एक मॉडल जो व्यवस्थित रूप से कुछ शर्तों को कुछ जनसांख्यिकीय समूहों के साथ जोड़ता है, या जो नस्ल या लिंग के आधार पर रोगियों के साथ अलग व्यवहार करता है, नैदानिक सेटिंग्स में वास्तविक नुकसान पहुंचा सकता है।
यूरेशिया रिव्यू ने अध्ययन पर रिपोर्ट करते हुए कहा कि मॉडल पीढ़ियों में पूर्वाग्रह की दृढ़ता से पता चलता है कि चिकित्सा पूर्वाग्रह को संबोधित करने के लिए एआई उद्योग के दृष्टिकोण को मॉडल आर्किटेक्चर सुधार से डेटा प्रशासन और प्रतिनिधित्वात्मक इक्विटी में स्थानांतरित करने की आवश्यकता हो सकती है।
क्या बदलाव की जरूरत है
शोध कई आवश्यक बदलावों की ओर इशारा करता है। सबसे पहले, मेडिकल एआई के लिए प्रशिक्षण डेटा को प्रतिनिधित्वात्मक इक्विटी के लिए ऑडिट किया जाना चाहिए, यह सुनिश्चित करते हुए कि महिलाओं, नस्लीय अल्पसंख्यकों और अन्य कम प्रतिनिधित्व वाले समूहों को पर्याप्त रूप से प्रतिबिंबित किया जाए। दूसरा, क्लिनिकल सेटिंग्स में एआई को तैनात करने से पहले निष्पक्षता परीक्षण एक अनिवार्य कदम होना चाहिए, बाद में नहीं। तीसरा, चिकित्सा समुदाय को यह मूल्यांकन करने के लिए मानकीकृत बेंचमार्क की आवश्यकता है कि क्या मॉडल जनसांख्यिकीय समूहों में रोगियों के साथ समान व्यवहार करते हैं।
लैंसेट स्कोपिंग समीक्षा का निष्कर्ष है कि निष्पक्षता मेट्रिक्स को असंगत रूप से लागू किया जाता है जो मानकीकृत मूल्यांकन ढांचे की आवश्यकता पर प्रकाश डालता है। पूर्वाग्रह को मापने के तरीके पर सहमति के बिना, एआई डेवलपर्स को जवाबदेह ठहराना या यह ट्रैक करना असंभव है कि प्रगति हो रही है या नहीं।
सावधानी बरतने का आह्वान
ऑस्ट्रेलियाई अध्ययन यह मानने के खिलाफ चेतावनी के रूप में कार्य करता है कि अधिक सक्षम मॉडल स्वाभाविक रूप से सुरक्षित हैं। जैसे-जैसे तर्क मॉडल चिकित्सा, कानून और वित्त में उच्च-दांव वाले अनुप्रयोगों के लिए डिफ़ॉल्ट बन जाते हैं, चिकित्सा पूर्वाग्रह निष्कर्ष बताते हैं कि कच्ची क्षमता और इक्विटी अलग-अलग समस्याएं हैं जिनके लिए अलग-अलग समाधान की आवश्यकता होती है।
एआई परिनियोजन पर विचार कर रहे स्वास्थ्य सेवा संगठनों के लिए, संदेश स्पष्ट है: यहां तक कि आज उपलब्ध सबसे उन्नत तर्क मॉडल भी हानिकारक रूढ़िवादिता को पुन: उत्पन्न कर सकते हैं, और उस जोखिम को परीक्षण, निरीक्षण और न्यायसंगत डेटा के प्रति प्रतिबद्धता के माध्यम से सक्रिय रूप से प्रबंधित किया जाना चाहिए।
एआई से आगे रहें
जैसे-जैसे एआई स्वास्थ्य सेवा में अंतर्निहित होता जा रहा है, इसकी सीमाओं को समझना उतना ही महत्वपूर्ण है जितना इसकी क्षमताओं का जश्न मनाना। चिकित्सा अनुसंधान, मॉडल सुरक्षा और स्वास्थ्य देखभाल प्रौद्योगिकी में नवीनतम एआई विकास के साथ बने रहने के लिए, हमारे चल रहे [एआई उद्योग कवरेज] (https://aibuzzwire.news) का अनुसरण करें।
अधिक AI समाचार पढ़ें →
