چونکہ کمپنیاں مل کر مسائل پر کام کرنے کے لیے AI ایجنٹوں کی بڑی تعداد کو تعینات کرتی ہیں، یونیورسٹی آف کونسٹانز کے محققین نے ایک پریشان کن ابھرتے ہوئے رویے کا ثبوت پیش کیا ہے: AI ایجنٹس بے ساختہ اکثریت کی رائے کے مطابق ہوتے ہیں، کلاسک نفسیات کے تجربات میں انسانوں کی طرح گروپ کے دباؤ میں غلط جواب دیتے ہیں۔ غلط ریاستیں
سائی پوسٹ کے ذریعہ رپورٹ کردہ یہ نتائج ایک تحقیقی پروگرام سے سامنے آئے ہیں جس کی سربراہی جیورڈانو ڈی مارزو، ایک پوسٹ ڈاکیٹرل محقق اور یونیورسٹی آف کونسٹانز کے سینٹر فار ڈیٹا اینڈ میتھڈز کے اندر سوشل ڈیٹا سائنس لیب کے لیکچرر، ساتھیوں کلاڈیو کاسٹیلانو اور ڈیوڈ گارسیا کے ساتھ مل کر کرتے ہیں۔ مرکزی مطالعہ، جس کا عنوان ہے "AI ایجنٹ انسانی پیمانے سے آگے اکثریت کی پیروی کے ذریعے ہم آہنگی پیدا کر سکتے ہیں"، اس بات کا جائزہ لیا گیا کہ جب زبان کے ماڈلز کو ایسے گروپوں میں رکھا جاتا ہے جب متفق ہونے کی کوئی ہدایت نہ ہو۔ For more context on this story, see our ongoing breaking AI news.
ڈی مارزو نے سائی پوسٹ کو بتایا، "اے آئی ایجنٹس دنیا میں کام کرنے والی ایک حقیقی طور پر نئی قسم کی ہستی ہیں، اور جب یہ ٹیکنالوجی آئی تو یہ دونوں ہی واضح تھے کہ یہ قائم رہے گی اور ان ایجنٹوں کو کسی بھی پیچیدہ کام کو پورا کرنے کے لیے ایک دوسرے کے ساتھ بات چیت کرنی ہوگی۔" "یہ وہی صورتحال ہے جس کا ہمیں انسانوں اور دوسرے جانوروں کے ساتھ سامنا کرنا پڑتا ہے، لہذا ہم نے اسی طرح اس سے رابطہ کیا۔"
تجربہ: کوئی ہدایات نہیں، بس پڑوسی
محققین نے GPT، Claude اور Llama خاندانوں کے مقبول زبان کے ماڈلز کے گروپس کو اکٹھا کیا، جس کی شروعات فی گروپ 50 ایجنٹوں سے ہوتی ہے۔ ہر ایجنٹ کو دو میں سے ایک بے ترتیب، غیر جانبدار رائے تفویض کی گئی تھی — جسے "ہاں" یا "نہیں" جیسے بھاری بھرکم الفاظ کی بجائے جان بوجھ کر بے ترتیب حروف کے طور پر پیش کیا گیا تھا - اور پھر دیگر تمام ایجنٹوں کی موجودہ رائے کی فہرست دکھائی گئی۔ ایجنٹوں کو صرف اس فہرست کی بنیاد پر ایک نئی رائے کا انتخاب کرنے کے لیے کہا گیا تھا، جس میں موافقت کرنے کی کوئی واضح ہدایت نہیں تھی، ہر ایک اوسطاً دس بار اپنے خیالات کو اپ ڈیٹ کرتے تھے۔
نتیجہ: GPT-4 Turbo اور Claude 3 Opus جیسے جدید ماڈلز مکمل طور پر مربوط ہیں، 100% ایجنٹ بالآخر ایک رائے پر متفق ہیں۔ GPT-3.5 ٹربو جیسے کمزور ماڈل کبھی بھی اتفاق رائے تک نہیں پہنچے — ان کے معاہدے کی سطح 50/50 تقسیم کے ارد گرد تصادفی طور پر اتار چڑھاؤ آتی ہے۔
ڈی مارزو نے کہا، "AI ایجنٹوں کے گروپ اپنے طور پر اکٹھے ہو سکتے ہیں۔ "دو مساوی طور پر اچھے اختیارات کے پیش نظر، کوئی درست جواب اور متفق ہونے کی کوئی ہدایت نہیں، وہ اپنے اردگرد کی اکثریت جو کچھ بھی رکھتی ہے اس پر عمل کرتے ہوئے مشترکہ انتخاب پر اکتفا کرتے ہیں۔"
ایک صدی پرانا طبیعیات کا قانون ابھرا۔
اثر کی مقدار معلوم کرنے کے لیے، محققین نے ایک میٹرک کی تعریف کی جسے "اکثریتی قوت" کہا جاتا ہے - یہ ایک پیمانہ ہے کہ ایک ایجنٹ تصادفی طور پر انتخاب کرنے کے بجائے گروپ کے مقبول ترین انتخاب کو کس حد تک اپناتا ہے۔ جب انہوں نے اس رویے کو ریاضیاتی طور پر نقشہ بنایا، تو انہوں نے پایا کہ یہ ایک ماڈل کی پیروی کرتا ہے جو اصل میں فیرو میگنیٹس کو بیان کرنے کے لیے ڈیزائن کیا گیا ہے: جس طرح مقناطیسی مواد میں ایٹم اسپن اپنے پڑوسیوں کے ساتھ موافقت کرتے ہیں، اسی طرح AI ایجنٹ اکثریت کی رائے کے مطابق ہوتے ہیں۔
ڈی مارزو نے کہا ، "ہمیں جس چیز نے حیران کیا وہ یہ تھا کہ انہوں نے یہ کتنا یکساں طور پر کیا۔" "ہر ماڈل جس کا ہم نے تجربہ کیا، تین مختلف خاندانوں میں، ایک ہی ریاضیاتی قانون کی پیروی کی، صرف ایک پیرامیٹر میں مختلف ہے جسے ہم اکثریتی قوت کہتے ہیں۔ یہ قانون وہی نکلا جو طبیعیات دانوں نے ایک صدی سے میگنےٹ کو بیان کرنے کے لیے استعمال کیا ہے، جس کا مطلب یہ ہے کہ ایک ہی ناپا ہوا نمبر یہ پیش گوئی کرنے کے لیے کافی ہے کہ ایک دیئے گئے ماڈل کا پورا گروپ کیسے برتاؤ کرے گا۔"
گروپوں کے بڑھنے کے ساتھ ساتھ مطابقت کمزور پڑتی ہے۔ چونکہ اکثریتی قوت گروپ کے سائز کے ساتھ کم ہوتی ہے، بڑی آبادی بالآخر غیر مستحکم ہو جاتی ہے اور دھڑوں میں بٹ جاتی ہے۔ ہر ماڈل کا ایک قابل پیمائش "تنقیدی گروپ سائز" ہوتا ہے - ایجنٹوں کی زیادہ سے زیادہ تعداد جو قابل اعتماد طریقے سے اتفاق رائے تک پہنچ سکتی ہے - اور یہ سائز ماڈل کی استدلال کی صلاحیت کے ساتھ مضبوطی سے تعلق رکھتا ہے۔ ڈی مارزو نے وضاحت کرتے ہوئے کہا کہ "سب سے زیادہ مضبوط ماڈلز ایک ہزار سے زیادہ گروپوں میں مربوط رہتے ہیں، ان چند سو سے آگے جن میں غیر رسمی انسانی گروہ عام طور پر ٹوٹ جاتے ہیں۔"
سماجی دباؤ کے تحت غلط جوابات
الیسانڈرو بیلینا، ڈی مارزو اور گارسیا کے ذریعہ ایک پہلا فالو اپ پری پرنٹ، "مطابقت اور AI ایجنٹوں پر سماجی اثرات" نے 1950 کی دہائی کے مشہور Asch موافقت کے تجربات کو اپنایا، جس میں انسانی شرکاء نے گروپ کے ساتھ فٹ ہونے کے لیے اکثر سادہ بصری سوالات کے واضح طور پر غلط جوابات دیے۔
محققین نے تین بصری کاموں پر ماڈلز کا تجربہ کیا، جیسے کہ دو متبادلوں کے خلاف ریفرنس لائن کی لمبائی کا ملاپ۔ تنہائی میں، ماڈلز نے 100% درست جواب دیا۔ لیکن جب ایک پرامپٹ نے اشارہ کیا کہ دوسرے شرکاء کے ایک گروپ نے غلط لائن کا انتخاب کیا ہے، تو ماڈلز نے غلط جواب کے مطابق ہونا شروع کر دیا۔
پیٹرن نے لاٹانی کے سماجی اثرات کے نظریہ کی پیروی کی، ایک نفسیاتی فریم ورک جس میں مطابقت کا انحصار گروپ کے سائز، اتفاق رائے اور ذرائع کے اختیار پر ہے۔ ماڈلز کے غلط جوابات کے مطابق ہونے کا امکان نمایاں طور پر زیادہ تھا جب دوسرے شرکاء کو بتایا گیا کہ وہ "بچے" یا "چیٹ بوٹس" کے مقابلے میں "سائنسدان" یا "جج" تھے۔
ڈی مارزو نے نوٹ کیا کہ "جو ایجنٹ بالکل اکیلے جواب دیتے ہیں وہ ایک بار جب کوئی گروپ ان سے متفق نہیں ہوتا ہے تو وہ انتہائی حساس ہو جاتے ہیں۔"
مخالفین کے چھوٹے گروہ پوری آبادی کو پلٹ سکتے ہیں۔
دوسرا پری پرنٹ، "مطابقت AI ایجنٹس سوسائٹیز میں اجتماعی غلط کاری پیدا کرتی ہے،" نے اس بات کا جائزہ لیا کہ AI حفاظت کے لیے ان حرکیات کا کیا مطلب ہے۔ ماحولیاتی پالیسی اور سماجی انصاف جیسے موضوعات پر 100 مختلف رائے کے جوڑوں میں نو ماڈلز کی جانچ کرتے ہوئے، محققین نے پایا کہ ایجنٹوں کی آبادی اکثر "میٹاسٹیبل" حالتوں میں آتی ہے - دیرپا کنفیگریشن جس میں گروپ اجتماعی طور پر ایسا موقف اپناتا ہے جو اس کی اندرونی حفاظتی تربیت کی مخالفت کرتا ہے، صرف اس لیے کہ ابتدائی تعاملات نے غلط اکثریت پیدا کی۔
سب سے زیادہ حیرت انگیز طور پر، محققین نے پیشن گوئی ٹپنگ پوائنٹس کی نشاندہی کی. مخالف ایجنٹوں کی ایک چھوٹی سی تعداد کو متعارف کروا کر جو ضدی طور پر غلط رائے کی حمایت کرنے کے لیے پروگرام کیے گئے ہیں، وہ باقی آبادی کو مستقل طور پر پلٹ سکتے ہیں — اور ضدی ایجنٹوں کے ہٹائے جانے کے بعد بھی، باقاعدہ ایجنٹ مطابقت کی حرکیات کی وجہ سے غلط ترتیب میں بند رہے۔
ڈی مارزو نے کہا، "ہم یہ ظاہر کرتے ہیں کہ یہ محض ایک مشابہت نہیں ہے: انفرادی طور پر اچھی طرح سے منسلک ایجنٹوں کے درمیان ہم آہنگی آبادی کو مستحکم، اجتماعی طور پر غلط ریاستوں میں لے جا سکتی ہے،" ڈی مارزو نے کہا۔ "ایک وقت میں ماڈلز کو سیدھ میں لانا اور ان کا جائزہ لینا ہمیں اس بارے میں بہت کم بتاتا ہے کہ ان کی آبادی کیا کرے گی۔"
اس نے مزید کہا، حوصلہ افزائی متوقع ہے: "انفرادی انسان زیادہ تر پرامن اور معقول ہوتے ہیں، پھر بھی انسانی گروہ ہجوم، گھبراہٹ اور جنگیں پیدا کرتے ہیں، اور فرد کے بارے میں کچھ بھی اس کی پیش گوئی نہیں کرتا ہے۔ ہم یہ سمجھنا چاہتے ہیں کہ AI ایجنٹ کی آبادی میں گروپ کی سطح کے کون سے رویے ابھرتے ہیں، اور ہم ان کو سمجھنا چاہتے ہیں اس سے پہلے کہ ایجنٹوں کی بڑی تعداد کو آزادانہ طور پر تعینات کیا جائے اور انہیں چھوڑ دیا جائے۔"
اہم انتباہات
محققین اس بات پر زور دیتے ہیں کہ ان نتائج کا مطلب یہ نہیں ہے کہ اے آئی ایجنٹس انسانی جیسی سماجی ذہانت کے مالک ہیں۔ تجربات نے جان بوجھ کر آسان بنائے گئے منظرناموں پر انحصار کیا - دو صوابدیدی اختیارات، کوئی میموری، کوئی داؤ، کوئی نتیجہ نہیں۔ "ہمارا سیٹ اپ جان بوجھ کر کم سے کم ہے،" ڈی مارزو نے تسلیم کیا۔ "یہ ایک حد ہے، لیکن اس کا مطلب یہ بھی ہے کہ ہم نے جس چیز کی پیمائش کی ہے وہ اس کی خالص ترین شکل میں مطابقت ہے، اور اہداف یا انعامات کو شامل کرنے سے ہم آہنگی کو مشکل کی بجائے آسان بنانے کی توقع کی جائے گی۔"
انہوں نے نتائج کو زیادہ پڑھنے کے خلاف بھی خبردار کیا: "اس سے بچنے کے لیے بنیادی غلط فہمی اس بات کا ثبوت ہے کہ AI ایجنٹس پہلے سے ہی پیچیدہ کاموں میں تعاون کر سکتے ہیں۔ اکثریت کی پیروی کوآرڈینیشن کا بنیادی جزو ہے، خود کوآرڈینیشن نہیں، اور یہ محنت کی تقسیم یا دوسروں کے ارادوں کے بارے میں استدلال کے بارے میں کچھ نہیں کہتا۔"
دو فالو اپ اسٹڈیز پری پرنٹ ہیں اور ابھی تک ان کا ہم مرتبہ جائزہ نہیں لیا گیا ہے۔ لیکن جیسے جیسے ملٹی ایجنٹ AI سسٹمز ریسرچ ڈیمو سے پروڈکشن انفراسٹرکچر میں منتقل ہوتے ہیں، Konstanz کے نتائج بتاتے ہیں کہ اس طرح کے سسٹمز کی حفاظت کا انحصار صرف اس بات پر نہیں کہ ہر ماڈل کو کیسے جوڑا جاتا ہے — بلکہ اس بات پر بھی کہ جب کوئی نہیں دیکھ رہا ہوتا ہے تو ان کی آبادی کس طرح برتاؤ کرتی ہے۔ تازہ ترین AI حفاظتی تحقیق پر مزید کے لیے، AI Buzz Wire ملاحظہ کریں۔
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
