در حالی که شرکت‌ها گروه‌های بزرگتری از عوامل هوش مصنوعی را برای کار روی مشکلات با یکدیگر به کار می‌گیرند، محققان دانشگاه کنستانز شواهدی از یک رفتار اضطراری نگران‌کننده ارائه کرده‌اند: عوامل هوش مصنوعی به طور خود به خود با نظر اکثریت مطابقت می‌کنند، درست مانند انسان‌ها در آزمایش‌های روان‌شناسی کلاسیک، تحت فشار گروهی پاسخ‌های اشتباه می‌دهند - و تعداد کمی از جمعیت سرسخت می‌توانند به طور دائمی دشمنان را به کل تبدیل کنند.

این یافته‌ها که توسط PsyPost گزارش شده است، از یک برنامه تحقیقاتی به رهبری جووردانو دی مارزو، محقق فوق‌دکتری و مدرس آزمایشگاه علوم داده‌های اجتماعی در مرکز داده‌ها و روش‌ها در دانشگاه کنستانز، همراه با همکارانش، کلودیو کاستلانو و دیوید گارسیا، به دست آمده‌اند. مطالعه اصلی با عنوان «عوامل هوش مصنوعی می‌توانند از طریق اکثریت پیروی فراتر از مقیاس انسانی هماهنگ شوند»، نحوه رفتار مدل‌های زبانی را وقتی در گروه‌هایی قرار می‌گیرند که هیچ دستورالعملی برای توافق ندارند، بررسی کرد. For more context on this story, see our ongoing breaking AI news.

دی مارزو به PsyPost گفت: «عامل‌های هوش مصنوعی نوعی واقعاً جدید از موجودیت‌هایی هستند که در جهان فعالیت می‌کنند، و زمانی که این فناوری وارد شد، مشخص بود که هم باقی خواهد ماند و هم این عوامل باید با یکدیگر تعامل داشته باشند تا هر کاری پیچیده را انجام دهند. این همان وضعیتی است که ما در مورد انسان‌ها و حیوانات دیگر با آن روبرو هستیم، بنابراین ما به همان شیوه به آن نزدیک شدیم.»

آزمایش: بدون دستورالعمل، فقط همسایه ها

محققان گروه‌هایی از مدل‌های زبانی محبوب را از خانواده‌های GPT، Claude و Llama جمع‌آوری کردند که با ۵۰ نماینده در هر گروه شروع شد. به هر نماینده یکی از دو نظر تصادفی و خنثی اختصاص داده شد - که عمداً به عنوان حروف تصادفی به جای کلمات بارگذاری شده مانند "بله" یا "خیر" ارائه شده است - و سپس فهرستی از نظرات فعلی سایر نمایندگان نشان داده شد. از نمایندگان خواسته شد تا نظر جدیدی را صرفاً بر اساس آن فهرست انتخاب کنند، بدون دستورالعمل صریح برای انطباق، و نظرات خود را به طور متوسط ​​هر کدام ده بار به روز کنند.

نتیجه: مدل‌های پیشرفته‌ای مانند GPT-4 Turbo و Claude 3 Opus کاملاً هماهنگ شدند و 100٪ نمایندگان در نهایت بر روی یک نظر توافق کردند. مدل‌های ضعیف‌تر مانند GPT-3.5 Turbo هرگز به اجماع نرسیدند - سطوح توافق آنها به طور تصادفی حول یک تقسیم 50/50 در نوسان بود.

دی مارزو گفت: «گروه‌هایی از عوامل هوش مصنوعی می‌توانند خودشان را کنار هم نگه دارند. "با توجه به دو گزینه به همان اندازه خوب، بدون پاسخ صحیح و هیچ دستورالعملی برای توافق، آنها به سادگی با پیروی از هر چیزی که اکثریت در اطراف خود دارند، در یک انتخاب مشترک همگرا می شوند."

قانون فیزیک صدساله ظهور می کند

برای تعیین کمیت این اثر، محققان معیاری به نام «نیروی اکثریت» را تعریف کردند – معیاری که نشان می‌دهد یک عامل چقدر تمایل دارد محبوب‌ترین انتخاب گروه را به جای انتخاب تصادفی انتخاب کند. هنگامی که آنها این رفتار را به صورت ریاضی ترسیم کردند، دریافتند که از مدلی پیروی می کند که در ابتدا برای توصیف فرومغناطیس ها طراحی شده بود: همانطور که اسپین های اتمی در مواد مغناطیسی تمایل دارند با همسایگان خود هماهنگ شوند، عوامل هوش مصنوعی نیز تمایل دارند با نظر اکثریت هماهنگ شوند.

دی مارزو گفت: «آنچه ما را شگفت زده کرد این بود که چقدر یکنواخت این کار را انجام دادند. "هر مدلی که ما در سه خانواده مختلف آزمایش کردیم، از قانون ریاضی یکسانی پیروی می کرد و تنها در یک پارامتر واحد که آن را نیروی اکثریت می نامیم متفاوت بود. معلوم شد که این قانون همان چیزی است که فیزیکدانان برای یک قرن برای توصیف آهنرباها از آن استفاده کرده اند، به این معنی که یک عدد اندازه گیری شده برای پیش بینی نحوه رفتار یک گروه کامل از یک مدل کافی است."

انطباق با رشد گروه ها ضعیف می شود. از آنجا که نیروی اکثریت با اندازه گروه کاهش می یابد، جمعیت های بزرگ در نهایت ناپایدار می شوند و به دسته ها تقسیم می شوند. هر مدل دارای یک "اندازه گروه بحرانی" قابل اندازه گیری است - حداکثر تعداد عواملی که می توانند به طور قابل اعتماد به توافق برسند - و این اندازه به شدت با قابلیت استدلال مدل ارتباط دارد. دی مارزو توضیح داد: «قوی‌ترین مدل‌ها در گروه‌های بیش از هزار نفر، فراتر از چند صدی که معمولاً گروه‌های انسانی غیررسمی از هم جدا می‌شوند، هماهنگ می‌مانند».

پاسخ های اشتباه تحت فشار اجتماعی

اولین نسخه پیش‌چاپ بعدی، «انطباق و تأثیر اجتماعی بر عوامل هوش مصنوعی» توسط الساندرو بلینا، دی مارزو و گارسیا، آزمایش‌های انطباق معروف Asch در دهه 1950 را اقتباس کرد، که در آن شرکت‌کنندگان انسانی اغلب به سؤالات بصری ساده پاسخ‌های اشتباه می‌دادند تا با یک گروه سازگار شوند.

محققان مدل‌ها را روی سه کار بصری آزمایش کردند، مانند تطبیق طول یک خط مرجع در برابر دو گزینه. در انزوا، مدل ها در 100% موارد به درستی پاسخ دادند. اما وقتی یک درخواست نشان داد که گروهی از شرکت‌کنندگان دیگر خط اشتباهی را انتخاب کرده‌اند، مدل‌ها شروع به مطابقت با پاسخ نادرست کردند.

این الگو از نظریه تأثیر اجتماعی لاتانه پیروی می‌کند، چارچوبی روان‌شناختی که بر این باور است که انطباق به اندازه گروه، اتفاق آرا و اعتبار منابع بستگی دارد. زمانی که به سایر شرکت‌کنندگان گفته می‌شود که «دانشمند» یا «قاضی» هستند، مدل‌ها به طور قابل‌توجهی بیشتر از زمانی که «بچه‌ها» یا «ربات‌های چت» بودند، با پاسخ‌های اشتباه مطابقت داشتند.

دی مارزو خاطرنشان کرد: «عواملی که تقریباً به تنهایی پاسخ می‌دهند، زمانی که گروهی با آنها مخالفت می‌کنند، بسیار حساس می‌شوند».

گروه های کوچکی از دشمنان می توانند کل جمعیت را برگردانند

پیش‌چاپ دوم، «انطباق باعث ایجاد ناهماهنگی جمعی در انجمن‌های عامل هوش مصنوعی می‌شود»، معنی این پویایی‌ها برای ایمنی هوش مصنوعی را بررسی کرد. محققان با آزمایش 9 مدل در 100 جفت عقاید مختلف در موضوعاتی مانند سیاست زیست محیطی و عدالت اجتماعی، دریافتند که جمعیت عامل اغلب در حالت‌های «دیگر پایدار» قرار می‌گیرند - پیکربندی‌های طولانی‌مدتی که در آن گروه به طور جمعی موضعی را اتخاذ می‌کند که مخالف آموزش ایمنی داخلی آن است، فقط به این دلیل که تعاملات اولیه اکثریت کاذب ایجاد می‌کند.

جالب تر از همه، محققان نقاط اوج قابل پیش بینی را شناسایی کردند. با معرفی تعداد کمی از عوامل متخاصم که برای حمایت سرسختانه از یک عقیده نادرست برنامه ریزی شده بودند، آنها می توانستند برای همیشه بقیه افراد جامعه را تغییر دهند - و حتی پس از حذف عوامل سرسخت، عوامل معمولی به دلیل پویایی انطباق در حالت نامناسب باقی ماندند.

دی مارزو گفت: «ما نشان می‌دهیم که این صرفاً یک قیاس نیست: انطباق بین عواملی که به‌طور جداگانه به خوبی همسو هستند، می‌تواند جمعیت را به حالت‌های باثبات و در مجموع ناهماهنگ سوق دهد». تراز کردن و ارزیابی مدل‌ها در یک زمان به ما اطلاعات کمی در مورد آنچه که جمعیتی از آنها انجام خواهند داد، می‌دهد.»

او اضافه کرد که انگیزه پیش‌بینی است: "انسان‌های فردی عمدتاً صلح‌جو و منطقی هستند، با این حال گروه‌های انسانی اوباش، وحشت و جنگ ایجاد می‌کنند و هیچ چیز در مورد فرد این را پیش‌بینی نمی‌کند. ما می‌خواهیم بفهمیم کدام رفتارهای سطح گروهی در جمعیت‌های عامل هوش مصنوعی ظاهر می‌شوند و ترجیح می‌دهیم قبل از اینکه تعداد زیادی از عوامل مستقر شوند و آزادانه با هم تعامل داشته باشند، آنها را درک کنیم."

هشدارهای مهم

محققان تاکید می کنند که یافته ها به این معنا نیست که عوامل هوش مصنوعی دارای هوش اجتماعی انسان مانند هستند. آزمایش‌ها بر سناریوهای عمدی ساده‌شده تکیه داشتند - دو گزینه دلخواه، بدون حافظه، بدون خطر، بدون پیامد. دی مارزو اذعان کرد: «تنظیمات ما عمدا حداقل است. "این یک محدودیت است، اما به این معنی است که آنچه ما اندازه‌گیری کردیم مطابقت در خالص‌ترین شکل آن است و انتظار می‌رود افزودن اهداف یا پاداش‌ها به جای سخت‌تر شدن، هماهنگی را آسان‌تر کند."

او همچنین نسبت به خواندن بیش از حد نتایج هشدار داد: "عمده‌ای که باید از خواندن نادرست اجتناب کرد، این است که با این به عنوان شواهدی برخورد کنیم که عوامل هوش مصنوعی قبلاً می‌توانند در کارهای پیچیده همکاری کنند. پیروی از اکثریت یک عنصر اساسی هماهنگی است، نه خود هماهنگی، و چیزی در مورد تقسیم کار یا استدلال در مورد نیات دیگران نمی‌گوید."

دو مطالعه بعدی، پیش چاپ هستند و هنوز توسط همتایان مورد بررسی قرار نگرفته اند. اما همانطور که سیستم‌های هوش مصنوعی چند عامله از نمایش‌های تحقیقاتی به زیرساخت‌های تولید می‌روند، نتایج Konstanz نشان می‌دهد که ایمنی چنین سیستم‌هایی ممکن است نه تنها به نحوه همسویی هر مدل بستگی داشته باشد - بلکه به نحوه رفتار جمعیت‌های آنها در زمانی که کسی تماشا نمی‌کند بستگی دارد. برای اطلاعات بیشتر در مورد آخرین تحقیقات ایمنی هوش مصنوعی، از AI Buzz Wire دیدن کنید.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →