כאשר חברות פורסות נחילים גדולים יותר ויותר של סוכני בינה מלאכותית כדי לעבוד יחד על בעיות, חוקרים מאוניברסיטת קונסטנץ הביאו עדויות להתנהגות מתהווה מטרידה: סוכני בינה מלאכותית תואמים באופן ספונטני את דעת הרוב, נותנים תשובות שגויות בלחץ קבוצתי בדיוק כמו בני אדם בניסויים בפסיכולוגיה קלאסית - ומספר קטן של יריבים עקשנים יכולים להפוך לצמיתות לאוכלוסיה שלמה של סוכנים לא מתאימים.
הממצאים, שדווחו על ידי PsyPost, מגיעים מתוכנית מחקר בהובלת ג'ורדנו דה מרזו, חוקר פוסט-דוקטורט ומרצה במעבדה למדעי נתונים חברתיים בתוך המרכז לנתונים ושיטות באוניברסיטת קונסטנץ, יחד עם הקולגות קלאודיו קסטלנו ודיוויד גרסיה. המחקר הראשי, שכותרתו "סוכני בינה מלאכותית יכולים לתאם באמצעות מעקב אחר רוב מעבר לקנה מידה אנושי", בדק כיצד מודלים של שפה מתנהגים כשהם ממוקמים בקבוצות ללא הוראה להסכים. For more context on this story, see our ongoing AI news.
"סוכני AI הם סוג חדש באמת של ישות הפועלת בעולם, וכשהטכנולוגיה הזו הגיעה היה ברור גם שהיא תישאר וגם שהסוכנים האלה יצטרכו לקיים אינטראקציה זה עם זה כדי להשיג משהו מורכב", אמר דה מרזו ל-PsyPost. "זה אותו מצב שאנו מתמודדים איתו עם בני אדם ובעלי חיים אחרים, אז ניגשנו אליו באותה צורה".
הניסוי: אין הוראות, רק שכנים
החוקרים הרכיבו קבוצות של מודלים שפות פופולריים ממשפחות GPT, קלוד ולאמה, החל מ-50 סוכנים לקבוצה. לכל סוכן הוקצתה אחת משתי דעות אקראיות ונייטרליות - מוצגות בכוונה כאותיות אקראיות במקום מילים טעונות כמו "כן" או "לא" - ולאחר מכן הוצגה רשימה של הדעות הנוכחיות של כל שאר הסוכנים. הסוכנים התבקשו לבחור חוות דעת חדשה על סמך הרשימה הזו בלבד, ללא הוראה מפורשת להתאים, ולעדכן את דעותיהם בממוצע עשר פעמים כל אחד.
התוצאה: דגמים מתקדמים כמו GPT-4 Turbo וקלוד 3 Opus מתואמים באופן מלא, כאשר 100% מהסוכנים בסופו של דבר מסכימים על דעה אחת. דגמים חלשים יותר כמו GPT-3.5 Turbo מעולם לא הגיעו להסכמה כלל - רמות ההסכמה שלהם השתנו באקראי סביב חלוקה של 50/50.
"קבוצות של סוכני בינה מלאכותית יכולות להחזיק יחד בעצמן", אמר דה מרזו. "בהינתן שתי אפשרויות טובות באותה מידה, ללא תשובה נכונה וללא הוראה להסכים, הם מתכנסים לבחירה משותפת פשוט על ידי ביצוע כל מה שהרוב סביבם מחזיק".
חוק פיזיקה בן מאה עולה
כדי לכמת את ההשפעה, החוקרים הגדירו מדד שנקרא "כוח הרוב" - מדד למידת העוצמה של סוכן נוטה לאמץ את הבחירה הפופולרית ביותר של הקבוצה במקום לבחור באקראי. כשהם מיפו את ההתנהגות הזו בצורה מתמטית, הם גילו שהיא בעקבות מודל שנועד במקור לתאר פרומגנטים: בדיוק כפי שספינים אטומיים בחומר מגנטי נוטים ליישר קו עם שכניהם, סוכני AI נוטים ליישר קו עם דעת הרוב.
"מה שהפתיע אותנו זה כמה הם עשו את זה בצורה אחידה", אמר דה מרזו. "כל מודל שבדקנו, על פני שלוש משפחות שונות, פעל לפי אותו חוק מתמטי, ונבדלו רק בפרמטר בודד שאנו מכנים כוח הרוב. החוק הזה התברר כחוק שהפיזיקאים השתמשו בו במשך מאה שנים כדי לתאר מגנטים, כלומר מספיק מספר נמדד כדי לחזות איך קבוצה שלמה של מודל נתון תתנהג".
הקונפורמיות נחלשת ככל שהקבוצות גדלות. מכיוון שכוח הרוב יורד עם גודל הקבוצה, אוכלוסיות גדולות הופכות בסופו של דבר ללא יציבות ומתפצלות לפלגים. לכל מודל יש "גודל קבוצה קריטי" שניתן למדידה - המספר המרבי של סוכנים שיכולים להגיע להסכמה מהימנה - וגודל זה תואם היטב את יכולת החשיבה של המודל. "המודלים החזקים ביותר נשארים מתואמים בקבוצות של למעלה מאלף, מעבר לכמה מאות שבהן בדרך כלל קבוצות אנושיות בלתי פורמליות מתפרקות", הסביר דה מרזו.
תשובות שגויות תחת לחץ חברתי
טרום טרום המשך ראשון, "קונפורמיות והשפעה חברתית על סוכני בינה מלאכותית" מאת אלסנדרו בלינה, דה מרזו וגרסיה, התאימו את ניסויי הקונפורמיות המפורסמים של אש של שנות ה-50, שבהם משתתפים אנושיים נתנו לעתים קרובות תשובות שגויות בעליל לשאלות ויזואליות פשוטות כדי להשתלב בקבוצה.
החוקרים בדקו מודלים בשלוש משימות ויזואליות, כמו התאמת אורך קו התייחסות לשתי חלופות. בבידוד, המודלים ענו נכון ב-100% מהמקרים. אבל כאשר הנחיה ציינה שקבוצה של משתתפים אחרים בחרה בשורה הלא נכונה, המודלים החלו להתאים לתשובה השגויה.
הדפוס הלך בעקבות תיאוריית ההשפעה החברתית של לאטנה, מסגרת פסיכולוגית שגורסת כי הקונפורמיות תלויה בגודל הקבוצה, פה אחד ובסמכות המקורות. המודלים היו בעלי סבירות גבוהה יותר להתאים לתשובות שגויות כאשר נאמר למשתתפים האחרים שהם "מדענים" או "שופטים" מאשר כשהם היו "ילדים" או "צ'אטבוטים".
"סוכנים שעונים כמעט לגמרי לבד הופכים לרגישים מאוד ברגע שקבוצה לא מסכימה איתם", ציין דה מרזו.
קבוצות קטנות של יריבים יכולות להפוך אוכלוסייה שלמה
הדפסה מקדימה שנייה, "קונפורמיות מייצרת אי-התאמה קולקטיבית בחברות סוכני בינה מלאכותיות", בדק מה המשמעות של הדינמיקה הזו עבור בטיחות בינה מלאכותית. בבדיקת תשעה מודלים על פני 100 צמדי דעות שונים בנושאים כמו מדיניות סביבתית וצדק חברתי, החוקרים גילו שאוכלוסיות סוכנים נופלות לעתים קרובות למצבים "מתמידים" - תצורות ארוכות טווח שבהן הקבוצה מאמצת יחד עמדה שמתנגדת להכשרת הבטיחות המובנית שלה, פשוט משום שאינטראקציות מוקדמות יצרו רוב כוזב.
באופן מדהים, החוקרים זיהו נקודות מפנה צפויות. על ידי הצגת מספר קטן של סוכנים יריבים מתוכנתים לתמוך בעקשנות בדעה שגויה, הם יכלו להעיף לצמיתות את שאר האוכלוסייה - וגם לאחר שהסוכנים העקשנים הוסרו, הסוכנים הרגילים נשארו נעולים במצב לא מיושר עקב דינמיקת התאמה.
"אנחנו מראים שזו לא רק אנלוגיה: התאמה בין סוכנים מיושרים היטב יכולה להוביל את האוכלוסייה למדינות יציבות, לא מיושרות קולקטיבית", אמר דה מרזו. "יישור והערכה של מודלים אחד בכל פעם מספרים לנו מעט על מה שאוכלוסיה מהם תעשה".
המוטיבציה, הוא הוסיף, היא מצפה: "בני אדם בודדים הם לרוב שלווים והגיוניים, ובכל זאת קבוצות אנושיות מייצרות המון, פאניקה ומלחמות, ושום דבר לגבי הפרט לא מנבא זאת. אנחנו רוצים להבין אילו התנהגויות ברמת הקבוצה מופיעות באוכלוסיות סוכני בינה מלאכותית, והיינו מעדיפים להבין אותן לפני שמספרים גדולים של סוכנים ייפרסו ויישארו לקיים אינטראקציה חופשית".
אזהרות חשובות
החוקרים מדגישים שהממצאים אינם אומרים שלסוכני AI יש אינטליגנציה חברתית דמוית אדם. הניסויים הסתמכו על תרחישים מפושטים בכוונה - שתי אפשרויות שרירותיות, ללא זיכרון, ללא הימור, ללא השלכות. "ההתקנה שלנו היא מינימלית בכוונה", הודה דה מרזו. "זו מגבלה, אבל זה גם אומר שמה שמדדנו הוא קונפורמיות בצורתה הטהורה ביותר, והוספת מטרות או תגמולים צפויה להפוך את התיאום לקלה יותר מאשר קשה יותר."
הוא גם הזהיר מפני קריאת יתר של התוצאות: "הקריאה השגויה העיקרית שיש להימנע ממנה היא ההתייחסות לכך כראיה לכך שסוכני בינה מלאכותית כבר יכולים לשתף פעולה במשימות מורכבות. מעקב אחר הרוב הוא מרכיב בסיסי של תיאום, לא התיאום עצמו, וזה לא אומר דבר על חלוקת עבודה או הנמקה לגבי כוונות של אחרים".
שני מחקרי ההמשך הם טרום-הדפסים וטרם עברו ביקורת עמיתים. אבל כאשר מערכות בינה מלאכותיות מרובות סוכנים עוברות מהדגמות מחקר לתשתית ייצור, תוצאות קונסטנץ מצביעות על כך שבטיחותן של מערכות כאלה עשויה להיות תלויה לא רק באופן שבו כל דגם מיושר - אלא באופן שבו אוכלוסיות שלהן מתנהגות כשאף אחד לא מסתכל. למידע נוסף על מחקר הבטיחות העדכני ביותר של AI, בקר ב-AI Buzz Wire.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
