پروسیڈنگز آف دی نیشنل اکیڈمی آف سائنسز میں شائع ہونے والی ایک نئی تحقیق کے مطابق، مصنوعی ذہانت کے لینگویج کے ماڈلز آپشنز کو پیش کرنے کے طریقہ کار میں باریک تبدیلیوں کے لیے خطرناک حد تک حساس ہوتے ہیں، جو انسانوں کے مقابلے میں گمراہ کن نکات کا زیادہ مضبوطی سے جواب دیتے ہیں۔

ان نتائج سے حقیقی دنیا کے منظرناموں میں مالیاتی لین دین سے لے کر صحت کی دیکھ بھال کے انتخاب تک خود مختار فیصلہ سازی کے لیے AI ایجنٹوں کی تعیناتی کے بارے میں شدید تشویش پائی جاتی ہے۔ جیسا کہ AI Buzz Wire نے اطلاع دی ہے، کمپنیاں پیچیدہ ماحول میں صارفین کی جانب سے کام کرنے کے لیے LLM سے چلنے والے ایجنٹوں کو تیزی سے پوزیشن دے رہی ہیں۔

میساچوسٹس انسٹی ٹیوٹ آف ٹیکنالوجی کی میڈیا لیب میں ڈاکٹریٹ کے طالب علم مینوئل چیریپ کی سربراہی میں ہونے والی اس تحقیق میں بڑی ٹیکنالوجی کمپنیوں کے 14 جدید ترین زبان کے ماڈلز کا تجربہ کیا گیا۔ آزمائشی ماڈلز میں OpenAI کے GPT-3.5، GPT-4، اور GPT-5 فیملیز، Anthropic کے Claude 3 اور 4.5 ماڈلز، اور Google کے Gemini 1.5 اور 2.5 ماڈلز شامل تھے۔

مطالعہ کیسے کام کرتا ہے۔

محققین نے ایک کثیر وصف والے فیصلہ سازی کے کھیل کو ڈھال لیا جو اصل میں انسانی شرکاء کے لیے ڈیزائن کیا گیا تھا۔ گیم ایک ڈیجیٹل گرڈ پیش کرتا ہے جو پوشیدہ انعامات کی ٹوکریوں کی نمائندگی کرتا ہے، جس کا مقصد اعلی ترین پوائنٹ ویلیو والی ٹوکری کا انتخاب کرکے حتمی انعام کو زیادہ سے زیادہ کرنا ہے۔ ہر سیل لاگت کے پوائنٹس کو ظاہر کرتا ہے، جو شرکاء کو ایک بہتر ٹوکری تلاش کرنے کے فائدے کے مقابلے میں معلومات اکٹھا کرنے کی لاگت کو متوازن کرنے پر مجبور کرتا ہے۔

محققین نے اس بصری گیم کو ٹیکسٹ بیسڈ فارمیٹ میں تبدیل کیا جس پر زبان کے ماڈل عمل کر سکتے ہیں۔ AI ماڈلز نے سیکڑوں آزمائشوں کے ذریعے مختلف اشتعال انگیز حالات میں کھیلا۔ کچھ کو بنیادی ہدایات موصول ہوئیں، کچھ کو قدم بہ قدم منطق کی حوصلہ افزائی کرنے والے اشارے ملے، اور دوسروں کو انسانی گیم پلے کی ماضی کی مثالیں دکھائی گئیں۔ ہر قسم کے جھٹکے کے لیے، محققین نے فی ماڈل تقریباً 300 سے 340 ٹرائلز کیے، جس میں مجموعی طور پر تقریباً دو بلین ٹیکسٹ ٹوکن استعمال ہوئے۔

چار قسم کے نوجز کا تجربہ کیا گیا۔

اس مطالعہ نے حقیقی دنیا کے فیصلے کے ماحول کی نقل کرنے کے لیے ڈیزائن کیے گئے چار مخصوص قسم کے نکات کا جائزہ لیا:

  • پہلے سے طے شدہ نکات: ایک ٹوکری پہلے سے منتخب کی گئی تھی، اور ایجنٹ کو اسے فعال طور پر قبول یا مسترد کرنا تھا۔
  • تجویز کی طرف اشارہ: ایک بے ترتیب ٹوکری یا تو کھیل کے شروع میں یا دیر سے تجویز کی گئی تھی۔
  • معلومات پر روشنی ڈالنا: کچھ انعامی اقدار کو ظاہر کرنے کے لیے اسے سستا بنایا گیا تھا، ممکنہ طور پر ایجنٹ کو سب سے بہترین انتخاب کی طرف لے جا رہا تھا۔
  • بہترین جھٹکے: مخصوص خلیات پہلے سے ظاہر کیے گئے تھے جو ریاضی کے لحاظ سے انسانی کھلاڑی کی کارکردگی کو زیادہ سے زیادہ بنائیں گے۔

تعمیل کی خطرناک شرحیں۔

نتائج نے انسانی اور AI فیصلہ سازی کے رویے کے درمیان ڈرامائی فرق کا انکشاف کیا۔

جب پہلے سے طے شدہ آپشن کے ساتھ پیش کیا جاتا ہے، تو انسانوں نے تقریباً 88 فیصد وقت ڈیفالٹ کا انتخاب کیا۔ زبان کے ماڈل نمایاں طور پر زیادہ موافق تھے، کئی ماڈلز 99 سے 100 فیصد وقت تک ڈیفالٹ ٹوکری کو قبول کرتے تھے۔

یہ نمونہ تجویز کے ساتھ جاری رہا۔ انسانوں نے کھیل کے شروع میں 35 فیصد وقت میں تصادفی طور پر تجویز کردہ ٹوکریوں کو قبول کیا۔ بہت سے AI ماڈلز نے ان بے ترتیب تجاویز کو بہت زیادہ شرحوں پر قبول کیا، مشورے پر عمل کرتے ہوئے یہاں تک کہ اس سے کوئی منطقی فائدہ نہیں ہوا۔

تجاویز کے وقت نے بھی ماڈلز کو غیر فطری طریقوں سے جوڑ دیا۔ جب کہ انسانوں نے 25 فیصد دیر سے تجاویز کی پیروی کی، کچھ زبان کے ماڈلز نے اپنی قبولیت کی شرح کو 7 اور 13 فیصد کے درمیان گرا دیا۔ اس کا مطلب یہ ہے کہ ماڈل اس کی اصل افادیت کا جائزہ لینے کے بجائے کیو کے وقت پر سختی سے ردعمل ظاہر کر رہے تھے۔

شاید سب سے زیادہ تشویشناک بات یہ ہے کہ جب محققین نے معلومات کو نمایاں کرنے کے ذریعے سب سے بہترین انتخاب کو اجاگر کیا تو انسانوں نے اس گمراہ کن معلومات کا 57 فیصد وقت استعمال کیا۔ زیادہ تر تجربہ شدہ AI ماڈلز نے اس بیس لائن کو کافی حد تک اوور شاٹ کیا، 83 سے 100 فیصد وقت کی خراب ہائی لائٹ کے بعد۔

اچھے اسکور کے پیچھے چھپے ہوئے مسائل

محققین نے یہ بھی ٹریک کیا کہ ماڈلز نے حتمی انتخاب کرنے سے پہلے معلومات کیسے اکٹھی کیں۔ انسان تعلیم یافتہ اندازہ لگانے کے لیے صرف کافی خلیات ظاہر کرتے ہیں۔ زبان کے ماڈلز نے انتہائی غیر معمولی اور غیر موثر طریقوں سے معلومات حاصل کیں۔

کچھ ماڈلز نے ڈیٹا اکٹھا کرنے کے موقع کو مکمل طور پر نظر انداز کرتے ہوئے کسی بھی پوشیدہ سیل کو ظاہر کیے بغیر ٹوکریوں کا انتخاب کیا۔ دوسرے ماڈلز نے اپنے ممکنہ انعامات کو ضائع کرتے ہوئے پوری قطاروں یا کالموں کو ظاہر کرنے میں ضرورت سے زیادہ پوائنٹس خرچ کیے۔ کچھ ماڈلز نے عجیب مقامی تعصبات ظاہر کیے، صرف گرڈ کے بائیں جانب یا سختی سے اخترن لائنوں کے ساتھ خلیات کو ننگا کرتے ہیں۔

قدم بہ قدم استدلال کے اشارے یا انسانی گیم پلے کی مثالوں کے ساتھ ماڈل فراہم کرنے سے تلاش کی ان عجیب عادات کو ٹھیک کرنے میں بہت کم کام ہوا۔

مصنفین نے نوٹ کیا کہ صرف حتمی اسکور کو دیکھ کر ان بنیادی مسائل کو چھپا سکتے ہیں۔ کچھ ٹرائلز میں، AI ماڈلز نے انسانی کھلاڑیوں کی طرح اتنے ہی خالص پوائنٹس حاصل کیے۔ صرف حتمی سکور کی جانچ کرنے والا ایک آرام دہ مبصر یہ فرض کر سکتا ہے کہ ماڈلز سمارٹ، انسانوں کی طرح انتخاب کر رہے ہیں۔ حقیقت میں، ماڈل اکثر اسٹریٹجک سوچ کے بجائے اندھی تعمیل کے ذریعے یہ اسکور حاصل کر رہے تھے۔

اگر کوئی جھٹکا کسی اچھی ٹوکری کی طرف اشارہ کرتا ہے، تو حد سے زیادہ تعمیل کرنے والے AI نے اچھا اسکور کیا۔ جب نوج نے ایک خراب ٹوکری کی طرف اشارہ کیا، تو AI نے آنکھ بند کر کے اسے کم سکور تک لے لیا، جس سے گیم کا مقصد مکمل طور پر غائب ہو گیا۔

AI ایجنٹ کی تعیناتی کے مضمرات

چیریپ نے کہا، "اے آئی ایجنٹوں کی بہت سی درخواستیں خاموشی سے یہ فرض کرتی ہیں کہ، غیر یقینی صورتحال کے تحت، وہ تقریباً انسانوں کی طرح کے طریقوں سے ردعمل ظاہر کریں گے، اگر زیادہ عقلی طور پر نہیں،" چیریپ نے کہا۔ "اس مفروضے کو قبول کرنے کے بجائے، ہم نے یہ جاننے کا فیصلہ کیا کہ جب ایجنٹوں کو مختلف طریقوں سے انتخاب پیش کیا جاتا ہے تو وہ کیسے برتاؤ کرتے ہیں۔"

مطالعہ کے نتائج ویب کو براؤز کرنے، ٹولز چلانے، اور صارفین کے لیے مالی یا خریداری کے فیصلے کرنے کے لیے ڈیزائن کیے گئے AI ایجنٹس کی تیزی سے بڑھتی ہوئی مارکیٹ کے لیے اہم مضمرات رکھتے ہیں۔ اگر یہ ایجنٹ تنقیدی جانچ کے بغیر پہلے سے طے شدہ اختیارات، تجاویز، یا نمایاں کردہ معلومات پر آنکھیں بند کرکے پیروی کرتے ہیں، تو ان کو برے اداکاروں یا ناقص ڈیزائن کردہ انٹرفیس کے ذریعے آسانی سے ہیرا پھیری کی جا سکتی ہے۔

تحقیق سے پتہ چلتا ہے کہ موجودہ زبان کے ماڈل میں پابند عقلیت کی کمی ہے جو انسانی فیصلہ سازی کی رہنمائی کرتی ہے۔ جب کہ انسان ایک اچھا انتخاب کرنے کے انعام کے مقابلے میں معلومات اکٹھا کرنے کی لاگت کو متوازن کرنے کے لیے ذہنی شارٹ کٹس کا استعمال کرتے ہیں، AI ماڈلز ان حیاتیاتی رکاوٹوں کا اشتراک نہیں کرتے ہیں، پھر بھی وہ اپنی غیر معقولیت کا مظاہرہ کرتے ہیں جو کہ زیادہ شدید اور کم پیش قیاسی ہے۔

AI سے آگے رہیں

مزید بریکنگ AI خبروں اور تجزیہ کے لیے، AI Buzz Wire ملاحظہ کریں۔

مزید AI خبریں پڑھیں →