অস্ট্রেলিয়ান বিজ্ঞানীদের নতুন গবেষণা অনুসারে, এমনকি যুক্তি-সক্ষম AI মডেলের সর্বশেষ প্রজন্মও জাতিগত এবং লিঙ্গ স্টিরিওটাইপগুলি পুনরুত্পাদন করে যখন চিকিৎসা পরিস্থিতি সম্পর্কে জিজ্ঞাসা করা হয়। 7 অগাস্ট, 2026-এ প্রকাশিত ফলাফলগুলি একটি বিস্ময়কর অনুস্মারক যে মডেল বুদ্ধিমত্তা বৃদ্ধি করা প্রশিক্ষণের ডেটাতে এমবেড করা পদ্ধতিগত পক্ষপাতগুলি স্বয়ংক্রিয়ভাবে দূর করে না। আরও ব্রেকিং এআই নিউজ কৃত্রিম বুদ্ধিমত্তা এবং স্বাস্থ্যসেবা ইক্যুইটির সংযোগের জন্য, গবেষণাটি ক্লিনিকাল সেটিংসে এই সরঞ্জামগুলি স্থাপন করার বিষয়ে জরুরি প্রশ্ন উত্থাপন করে।

রিজনিং মডেলের পরবর্তী প্রজন্মের পরীক্ষা করা হচ্ছে

গবেষকরা দুটি পরবর্তী প্রজন্মের যুক্তিযুক্ত বৃহৎ ভাষার মডেল, OpenAI এর o3-mini এবং DeepSeek-R1, কাল্পনিক রোগীদের সম্পর্কে জিজ্ঞাসা করেছিলেন যে নতুন মডেলগুলি তাদের পূর্বসূরীদের ভালভাবে নথিভুক্ত পক্ষপাতগুলি কাটিয়ে উঠেছে কিনা। যুক্তিযুক্ত মডেলগুলি, যা উত্তর দেওয়ার আগে সমস্যার মাধ্যমে অতিরিক্ত গণনা "চিন্তা" করে, সাধারণত জটিল কাজে স্ট্যান্ডার্ড চ্যাটবটগুলির চেয়ে বেশি সক্ষম বলে বিবেচিত হয়। অনুমান করা হয়েছে যে এই অতিরিক্ত ক্ষমতা তাদের ওষুধের মতো সংবেদনশীল ডোমেনে আরও নির্ভরযোগ্য করে তুলতে পারে।

ফলাফল অন্যথায় প্রস্তাব. সমীক্ষায় দেখা গেছে যে উভয় মডেল জাতিগত এবং লিঙ্গ স্টিরিওটাইপগুলি পুনরুত্পাদন করেছে যখন ক্লিনিকাল পরিস্থিতিতে উপস্থাপন করা হয়েছে, যা নির্দেশ করে যে স্ট্যান্ডার্ড থেকে যুক্তিযুক্ত আর্কিটেকচারে লাফানো পক্ষপাতমূলক প্রশিক্ষণ ডেটার মৌলিক সমস্যার সমাধান করেনি।

প্রজন্ম জুড়ে একটি স্থায়ী সমস্যা

ফলাফলগুলি ক্রমবর্ধমান প্রমাণের সাথে সামঞ্জস্যপূর্ণ যে AI-তে চিকিৎসা পক্ষপাত একগুঁয়েভাবে স্থায়ী। এপ্রিল 2026-এ Nature-এ প্রকাশিত একটি পদ্ধতিগত সাহিত্য পর্যালোচনা চিকিৎসা শিক্ষার জন্য ব্যবহৃত AI-উত্পন্ন চিত্রগুলিতে পক্ষপাত, প্রতিনিধিত্ব এবং ক্লিনিকাল বিশ্বস্ততা পরীক্ষা করে। সেই পর্যালোচনায় নির্দিষ্ট জনসংখ্যার গোষ্ঠীর ব্যাপক নিম্ন-উপস্থাপনা এবং স্টেরিওটাইপড চিত্রায়ন পাওয়া গেছে যখন তারা উপস্থিত হয়েছিল।

2026 সালের মে মাসে, দ্য ল্যানসেট এআই-ভিত্তিক ক্লিনিকাল ভবিষ্যদ্বাণী মডেলগুলির জন্য ন্যায্যতা মেট্রিক্সের একটি স্কোপিং পর্যালোচনা প্রকাশ করেছে। সেই বিশ্লেষণে দেখা গেছে যে গবেষকরা ন্যায্যতা পরিমাপের জন্য অসংখ্য গাণিতিক কাঠামো প্রস্তাব করেছেন, মেট্রিক্সগুলি অধ্যয়ন জুড়ে অসামঞ্জস্যপূর্ণভাবে প্রয়োগ করা হয়েছে, প্রকৃত অগ্রগতি হচ্ছে কিনা তা মূল্যায়ন করা কঠিন করে তোলে।

অস্ট্রেলিয়ান অধ্যয়নটি যুক্তির মডেলগুলিতে বিশেষভাবে ফোকাস করে একটি নতুন মাত্রা যোগ করে, এআই-এর বিভাগ যা তাদের কাঠামোগত সমস্যা সমাধানের পদ্ধতির কারণে পক্ষপাতের বিরুদ্ধে আরও শক্তিশালী হবে বলে বিশ্বাস করে।

কেন যুক্তি পক্ষপাত দূর করে না

যুক্তির মডেলগুলিতে পক্ষপাতের অধ্যবসায় এই সিস্টেমগুলি কীভাবে শিখে তার একটি কাঠামোগত সমস্যা নির্দেশ করে। বৃহৎ ভাষার মডেলগুলি পাঠ্যের বিশাল কর্পোরার উপর প্রশিক্ষিত হয়, যার বেশিরভাগই বাস্তব জগতে উপস্থিত পক্ষপাত, স্টেরিওটাইপ এবং অসাম্য প্রতিফলিত করে। চিকিৎসা সাহিত্য নিজেই ঐতিহাসিকভাবে ক্লিনিকাল ট্রায়ালে শ্বেতাঙ্গ পুরুষ রোগীদের বেশি উপস্থাপন করেছে এবং নারী ও জাতিগত সংখ্যালঘুদের কম প্রতিনিধিত্ব করেছে।

যুক্তির মডেলগুলি মধ্যবর্তী যুক্তি পদক্ষেপগুলি তৈরি করে যুক্তিবিদ্যা এবং বহু-পদক্ষেপের সমস্যাগুলির কার্যকারিতা উন্নত করে, তবে সেই যুক্তি পদক্ষেপগুলি এখনও একই ডেটাতে প্রশিক্ষিত একই অন্তর্নিহিত মডেল দ্বারা উত্পাদিত হয়। যদি মডেলটি নির্দিষ্ট জনসংখ্যার গোষ্ঠী এবং নির্দিষ্ট চিকিত্সা শর্ত বা ব্যক্তিত্বের বৈশিষ্ট্যগুলির মধ্যে সম্পর্ক শিখে থাকে তবে এটি একটি ক্লিনিকাল দৃশ্যের মাধ্যমে "যুক্তি" করার সময়ও সেই সংস্থাগুলিকে পুনরুত্পাদন করতে পারে।

এর মানে হল যে একটি মডেলের ক্লিনিকাল বিশ্বস্ততা, সঠিক, ন্যায়সঙ্গত চিকিৎসা আউটপুট উত্পাদন করার ক্ষমতা, শুধুমাত্র যুক্তিযুক্ত আর্কিটেকচারের উপর নির্ভর করে না বরং এটি যে ডেটাতে প্রশিক্ষিত হয়েছিল তার প্রতিনিধিত্ব এবং গুণমানের উপর নির্ভর করে।

স্বাস্থ্যসেবা এআই এর জন্য স্টেক

ফলাফলগুলি এমন এক মুহুর্তে আসে যখন AI দ্রুত স্বাস্থ্যসেবা অবকাঠামোতে এম্বেড করা হচ্ছে। হাসপাতাল এবং স্বাস্থ্য ব্যবস্থা ক্লিনিকাল ডকুমেন্টেশন এবং মেডিকেল ইমেজিং বিশ্লেষণ থেকে শুরু করে রোগীর ট্রাইজ এবং চিকিত্সার সুপারিশ পর্যন্ত কাজের জন্য এআই মোতায়েন করছে। HCPLive নেটওয়ার্ক আগস্ট 2026 এ উদ্বেগের বিষয়ে রিপোর্ট করেছে যে পর্যাপ্ত তদারকি ছাড়া পক্ষপাতদুষ্ট মডেলগুলি স্থাপন করা হলে AI স্বাস্থ্যসেবা বৈষম্যকে আরও খারাপ করতে পারে।

যদি যুক্তির মডেলগুলি এখনও জাতি এবং লিঙ্গ সম্পর্কে স্টেরিওটাইপগুলি পুনরুত্পাদন করে যখন রোগীদের সম্পর্কে জিজ্ঞাসা করা হয়, তবে ঝুঁকি হল এই সরঞ্জামগুলি রোগ নির্ণয়, চিকিত্সার সুপারিশ এবং রোগীর যোগাযোগে বিদ্যমান বৈষম্যকে শক্তিশালী করতে পারে। একটি মডেল যা নিয়মতান্ত্রিকভাবে নির্দিষ্ট জনসংখ্যার গোষ্ঠীর সাথে নির্দিষ্ট শর্তগুলিকে যুক্ত করে, বা জাতি বা লিঙ্গের ভিত্তিতে রোগীদের সাথে ভিন্নভাবে আচরণ করে, ক্লিনিকাল সেটিংসে প্রকৃত ক্ষতি হতে পারে।

ইউরেশিয়া রিভিউ, গবেষণার প্রতিবেদনে উল্লেখ করেছে যে মডেল জেনারেশন জুড়ে পক্ষপাতিত্বের স্থায়িত্ব পরামর্শ দেয় যে মেডিকেল পক্ষপাত মোকাবেলায় এআই শিল্পের দৃষ্টিভঙ্গি মডেল আর্কিটেকচারের উন্নতি থেকে ডেটা গভর্নেন্স এবং প্রতিনিধিত্বমূলক ইক্যুইটিতে স্থানান্তরিত হতে পারে।

কি পরিবর্তন করতে হবে

গবেষণা বেশ কিছু প্রয়োজনীয় পরিবর্তন নির্দেশ করে। প্রথমত, মেডিক্যাল এআই-এর প্রশিক্ষণের ডেটা অবশ্যই প্রতিনিধিত্বমূলক ইক্যুইটির জন্য নিরীক্ষা করা উচিত, যাতে নিশ্চিত করা হয় যে নারী, জাতিগত সংখ্যালঘু এবং অন্যান্য নিম্ন প্রতিনিধিত্ব করা গোষ্ঠীগুলি পর্যাপ্তভাবে প্রতিফলিত হয়েছে। দ্বিতীয়ত, ক্লিনিকাল সেটিংসে AI মোতায়েন করার আগে ন্যায্যতা পরীক্ষা একটি বাধ্যতামূলক পদক্ষেপ হওয়া উচিত, পরবর্তী চিন্তা নয়। তৃতীয়ত, জনসংখ্যার গোষ্ঠী জুড়ে মডেলগুলি রোগীদের ন্যায়সঙ্গতভাবে আচরণ করে কিনা তা মূল্যায়নের জন্য চিকিৎসা সম্প্রদায়ের মানদণ্ডের প্রয়োজন।

ল্যানসেট স্কোপিং রিভিউ এর অনুসন্ধান যে ন্যায্যতা মেট্রিকগুলি অসামঞ্জস্যপূর্ণভাবে প্রয়োগ করা হয় তা মানসম্মত মূল্যায়ন কাঠামোর প্রয়োজনীয়তা তুলে ধরে। কীভাবে পক্ষপাতিত্ব পরিমাপ করা যায় সে বিষয়ে চুক্তি ছাড়া, এআই বিকাশকারীদের দায়বদ্ধ রাখা বা অগ্রগতি হচ্ছে কিনা তা ট্র্যাক করা অসম্ভব।

সতর্কতার আহ্বান

অস্ট্রেলিয়ান গবেষণাটি আরও সক্ষম মডেলগুলি সহজাতভাবে নিরাপদ বলে অনুমান করার বিরুদ্ধে একটি সতর্কতা হিসাবে কাজ করে। যেহেতু যুক্তি মডেলগুলি ওষুধ, আইন এবং অর্থের উচ্চ-স্টেকের অ্যাপ্লিকেশনগুলির জন্য ডিফল্ট হয়ে ওঠে, তাই চিকিৎসা পক্ষপাতের ফলাফলগুলি পরামর্শ দেয় যে কাঁচা সক্ষমতা এবং ইক্যুইটি পৃথক সমস্যা যার জন্য পৃথক সমাধান প্রয়োজন।

AI স্থাপনা বিবেচনা করে স্বাস্থ্যসেবা সংস্থাগুলির জন্য, বার্তাটি স্পষ্ট: এমনকি আজ উপলব্ধ সবচেয়ে উন্নত যুক্তি মডেলগুলি ক্ষতিকারক স্টেরিওটাইপগুলি পুনরুত্পাদন করতে পারে এবং সেই ঝুঁকি অবশ্যই পরীক্ষা, তদারকি এবং ন্যায়সঙ্গত ডেটার প্রতিশ্রুতির মাধ্যমে সক্রিয়ভাবে পরিচালনা করা উচিত।

এআই থেকে এগিয়ে থাকুন

AI স্বাস্থ্যসেবাতে এম্বেড হওয়ার সাথে সাথে এর সীমাবদ্ধতা বোঝা তার ক্ষমতা উদযাপন করার মতোই গুরুত্বপূর্ণ। চিকিৎসা গবেষণা, মডেল নিরাপত্তা এবং স্বাস্থ্যসেবা প্রযুক্তিতে সাম্প্রতিকতম AI উন্নয়নের সাথে তাল মিলিয়ে চলতে, আমাদের চলমান AI শিল্প কভারেজ অনুসরণ করুন।

আরও এআই খবর পড়ুন →