مع نشر الشركات لأسراب متزايدة من عملاء الذكاء الاصطناعي للعمل على حل المشكلات معًا، قدم الباحثون في جامعة كونستانز دليلاً على سلوك ناشئ مقلق: يتوافق عملاء الذكاء الاصطناعي تلقائيًا مع رأي الأغلبية، ويعطون إجابات خاطئة تحت ضغط المجموعة تمامًا مثل البشر في تجارب علم النفس الكلاسيكية - ويمكن لأعداد صغيرة من الخصوم العنيدين أن يقلبوا مجموعة كاملة من العملاء بشكل دائم إلى حالات غير متوازنة.

النتائج، التي نشرتها PsyPost، تأتي من برنامج بحثي بقيادة جيوردانو دي مارزو، باحث ما بعد الدكتوراه ومحاضر في مختبر علوم البيانات الاجتماعية داخل مركز البيانات والأساليب في جامعة كونستانز، مع زملائه كلاوديو كاستيلانو وديفيد جارسيا. الدراسة الرئيسية، التي تحمل عنوان "يمكن لعملاء الذكاء الاصطناعي التنسيق من خلال متابعة الأغلبية بما يتجاوز النطاق البشري"، بحثت في كيفية تصرف النماذج اللغوية عند وضعها في مجموعات دون تعليمات للموافقة. لمزيد من السياق حول هذه القصة، راجع أحدث تطورات الذكاء الاصطناعي.

وقال دي مارزو لموقع PsyPost: "إن عملاء الذكاء الاصطناعي هم نوع جديد حقًا من الكيانات التي تعمل في العالم، وعندما وصلت هذه التكنولوجيا كان من الواضح أنها ستبقى وأن هؤلاء العملاء سيتعين عليهم التفاعل مع بعضهم البعض لإنجاز أي شيء معقد". "هذا هو نفس الوضع الذي نواجهه مع البشر والحيوانات الأخرى، لذلك تعاملنا معه بنفس الطريقة."

التجربة: لا تعليمات، فقط الجيران

قام الباحثون بتجميع مجموعات من نماذج اللغات الشائعة من عائلات GPT وClaude وLlama، بدءًا من 50 وكيلًا لكل مجموعة. تم تعيين رأيين عشوائيين ومحايدين لكل وكيل - تم تقديمهما عمدًا كأحرف عشوائية بدلاً من كلمات محملة مثل "نعم" أو "لا" - ثم تم عرض قائمة بجميع الآراء الحالية للوكلاء الآخرين. طُلب من الوكلاء اختيار رأي جديد يعتمد فقط على تلك القائمة، مع عدم وجود تعليمات صريحة للتوافق، وتحديث وجهات نظرهم بمعدل عشر مرات لكل منهم.

النتيجة: نماذج متقدمة مثل GPT-4 Turbo وClaude 3 Opus منسقة بشكل كامل، مع موافقة 100% من الوكلاء في النهاية على رأي واحد. لم تتوصل النماذج الأضعف مثل GPT-3.5 Turbo إلى إجماع على الإطلاق - تقلبت مستويات الاتفاق الخاصة بها بشكل عشوائي حول تقسيم 50/50.

وقال دي مارزو: "يمكن لمجموعات عملاء الذكاء الاصطناعي أن تتماسك معًا بمفردها". "في ضوء خيارين متساويين في الجودة، دون إجابة صحيحة أو تعليمات بالموافقة، فإنهم يتقاربون على خيار مشترك ببساطة من خلال اتباع ما تؤمن به الأغلبية من حولهم".

ظهور قانون فيزيائي عمره قرن من الزمان

ولتحديد التأثير، حدد الباحثون مقياسًا يسمى "قوة الأغلبية" - وهو مقياس لمدى قوة ميل العميل إلى تبني الاختيار الأكثر شيوعًا للمجموعة بدلاً من الانتقاء عشوائيًا. عندما قاموا برسم خريطة لهذا السلوك رياضيًا، وجدوا أنه يتبع نموذجًا مصممًا في الأصل لوصف المغناطيسات الحديدية: تمامًا كما تميل السبينات الذرية في المواد المغناطيسية إلى التوافق مع جيرانها، فإن عملاء الذكاء الاصطناعي يميلون إلى التوافق مع رأي الأغلبية.

وقال دي مارزو: "ما أدهشنا هو مدى انتظامهم في القيام بذلك". "كل نموذج اختبرناه، عبر ثلاث عائلات مختلفة، اتبع نفس القانون الرياضي، ويختلف فقط في معامل واحد نسميه قوة الأغلبية. وتبين أن هذا القانون هو القانون الوحيد الذي استخدمه الفيزيائيون لمدة قرن لوصف المغناطيس، مما يعني أن رقمًا واحدًا مُقاسًا يكفي للتنبؤ بكيفية تصرف مجموعة كاملة من نموذج معين."

يضعف التوافق مع نمو المجموعات. نظرًا لأن قوة الأغلبية تتضاءل مع حجم المجموعة، فإن التجمعات السكانية الكبيرة تصبح في النهاية غير مستقرة وتنقسم إلى فصائل. يحتوي كل نموذج على "حجم مجموعة حرجة" يمكن قياسه - الحد الأقصى لعدد الوكلاء الذين يمكنهم الوصول إلى الإجماع بشكل موثوق - ويرتبط هذا الحجم بقوة بقدرة النموذج على التفكير. وأوضح دي مارزو: "إن أقوى النماذج تظل منسقة في مجموعات يزيد عدد أفرادها عن ألف شخص، وهو ما يتجاوز بضع مئات من الأشخاص التي تتفكك فيها المجموعات البشرية غير الرسمية عادةً".

إجابات خاطئة تحت الضغط الاجتماعي

أول نسخة أولية للمتابعة، بعنوان "المطابقة والتأثير الاجتماعي على وكلاء الذكاء الاصطناعي" بقلم أليساندرو بيلينا ودي مارزو وجارسيا، قامت بتكييف تجارب المطابقة الشهيرة لـ Asch في الخمسينيات من القرن الماضي، والتي غالبًا ما أعطى فيها المشاركون البشريون إجابات خاطئة بشكل واضح على أسئلة بصرية بسيطة لتناسب المجموعة.

اختبر الباحثون النماذج في ثلاث مهام بصرية، مثل مطابقة طول الخط المرجعي مع بديلين. بشكل منفصل، أجابت النماذج بشكل صحيح بنسبة 100٪ من الوقت. ولكن عندما أشارت رسالة إلى أن مجموعة من المشاركين الآخرين اختاروا الخط الخطأ، بدأت النماذج تتوافق مع الإجابة غير الصحيحة.

اتبع هذا النمط نظرية التأثير الاجتماعي التي وضعها لاتاني، وهي إطار نفسي يرى أن التوافق يعتمد على حجم المجموعة، والإجماع، وسلطة المصادر. كانت النماذج أكثر عرضة للتوافق مع الإجابات الخاطئة عندما قيل لها أن المشاركين الآخرين كانوا "علماء" أو "قضاة" مقارنة بما كانوا عليه عندما كانوا "أطفالًا" أو "روبوتات دردشة".

وأشار دي مارزو إلى أن "الوكلاء الذين يجيبون بشكل شبه مثالي بمفردهم يصبحون عرضة للغاية عندما تختلف المجموعة معهم".

يمكن لمجموعات صغيرة من الخصوم قلب شعب بأكمله

وبحثت نسخة أولية ثانية، بعنوان "المطابقة تولد اختلالًا جماعيًا في مجتمعات وكلاء الذكاء الاصطناعي"، ما تعنيه هذه الديناميكيات بالنسبة لسلامة الذكاء الاصطناعي. من خلال اختبار تسعة نماذج عبر 100 زوج رأي مختلف حول موضوعات مثل السياسة البيئية والعدالة الاجتماعية، وجد الباحثون أن مجموعات العملاء غالبًا ما تندرج في حالات "متبدلة الاستقرار" - وهي تكوينات طويلة الأمد تتبنى فيها المجموعة بشكل جماعي موقفًا يعارض التدريب المدمج في مجال السلامة، وذلك ببساطة لأن التفاعلات المبكرة خلقت أغلبية زائفة.

والأمر الأكثر لفتًا للانتباه هو أن الباحثين حددوا نقاط التحول التي يمكن التنبؤ بها. من خلال إدخال عدد صغير من الوكلاء المعارضين المبرمجين لدعم الرأي المنحرف بشكل عنيد، يمكنهم قلب بقية السكان بشكل دائم - وحتى بعد إزالة الوكلاء العنيدين، ظل الوكلاء العاديون حبيسين الحالة المنحرفة بسبب ديناميكيات المطابقة.

وقال دي مارزو: "لقد أظهرنا أن هذا ليس مجرد تشبيه: فالتوافق بين الوكلاء المتحالفين بشكل جيد على المستوى الفردي يمكن أن يدفع السكان إلى دول مستقرة وغير متجانسة بشكل جماعي". "إن مواءمة النماذج وتقييمها واحدًا تلو الآخر لا تخبرنا إلا القليل عما سيفعله سكانها."

وأضاف أن الدافع استباقي: "البشر الأفراد مسالمون ومعقولون في الغالب، ومع ذلك فإن المجموعات البشرية تنتج الغوغاء والذعر والحروب، ولا شيء عن الفرد يتنبأ بذلك. نريد أن نفهم السلوكيات على مستوى المجموعة التي تظهر في مجموعات عملاء الذكاء الاصطناعي، ونفضل فهمها قبل نشر أعداد كبيرة من العملاء وتركهم للتفاعل بحرية".

##محاذير هامة

ويؤكد الباحثون أن النتائج لا تعني أن عملاء الذكاء الاصطناعي يمتلكون ذكاءً اجتماعيًا شبيهًا بالإنسان. اعتمدت التجارب على سيناريوهات مبسطة عمدًا: خياران اعتباطيان، بلا ذاكرة، بلا مخاطر، بلا عواقب. واعترف دي مارزو قائلاً: "إن إعدادنا كان في حده الأدنى عن عمد". "هذا قيد، ولكنه يعني أيضًا أن ما قمنا بقياسه هو المطابقة في أنقى صورها، ومن المتوقع أن تؤدي إضافة الأهداف أو المكافآت إلى جعل التنسيق أسهل وليس أكثر صعوبة."

كما حذر من المبالغة في قراءة النتائج: "إن القراءة الخاطئة الرئيسية التي يجب تجنبها هي التعامل مع هذا كدليل على أن عملاء الذكاء الاصطناعي يمكنهم بالفعل التعاون في مهام معقدة. إن اتباع الأغلبية هو عنصر أساسي في التنسيق، وليس التنسيق نفسه، ولا يقول شيئًا عن تقسيم العمل أو التفكير في نوايا الآخرين".

دراستا المتابعة هما نسختان أوليتان ولم تتم مراجعتهما بعد من قبل النظراء. ولكن مع انتقال أنظمة الذكاء الاصطناعي متعددة الوكلاء من العروض البحثية إلى البنية التحتية للإنتاج، تشير نتائج كونستانز إلى أن سلامة مثل هذه الأنظمة قد لا تعتمد فقط على كيفية محاذاة كل نموذج، بل أيضًا على كيفية تصرف مجموعاتها عندما لا يراقبها أحد. لمزيد من المعلومات حول أحدث أبحاث السلامة في مجال الذكاء الاصطناعي، قم بزيارة AI Buzz Wire.

---

ابق على اطلاع بأخبار الذكاء الاصطناعي

آخر أخبار وتحليلات وإنجازات الذكاء الاصطناعي — في مكان واحد.

اقرأ المزيد من أخبار الذكاء الاصطناعي →