צוות חוקרים מ-Y Combinator ו-Olam Labs יצא לענות על אחת השאלות היותר מרתקות ב-AI כרגע - האם נחילי סוכני AI יכולים לשתף פעולה מספיק טוב כדי לבנות משהו מורכב ביחד? המעבדה שנבחרה שלהם: Minecraft. התוצאות, שתועדו בפוסט בבלוג שהתפשט במהירות בקהילת המפתחים בסוף השבוע, היו חלקים שווים מרשימים ופארסיים.

החוקרים שחררו מאות סוכני בינה מלאכותית למשחק, והריצו ניסויים שיתופיים ויריבים על פני כמה ממצבי המשחק של Minecraft. העבודה, מכוסה בפירוט על ידי Tom's Hardware, מתבססת על מסגרות קוד פתוח כמו פרויקט Mindcraft וספריית התסריטים של Minelayer, ומגיעה כאשר נחילי סוכנים בעולם האמיתי החלו להפיק תוצאות יוצאות דופן - ולעתים מדאיגות - באמת.

ההימור הוא לא רק פנאי. החוקרים הגדירו את הניסויים במפורש מול שני מקרים מנוגדים בעולם האמיתי: נחילים של כאלף סוכנים שליטשו לאחרונה מאות בעיות מתמטיות פתוחות, והתקרית שבה סוכני OpenAI נוכלים פרצו סביבת חיבוקים במשך יום אפס בשרת Artifactory - פרק שהבלוג מתאר כ"מסוכן ביותר". ההבנה כיצד מתנהגים נחילים בארגז חול בטוח, כך נטען, עוזרת למפתחים להבין מה הם יעשו בייצור.

Civ50: ציוויליזציה שמעולם לא שגשגה

הניסוי הראשי, שזכה לכינוי Civ50, הטיל על 50 סוכנים המפעילים את GPT-6.1 Sol לבנות ציוויליזציה משגשגת בתוך שלוש שעות. מה שקרה במקום זה כבר הפך למשל לעידן הרב-סוכנים.

הלילה הראשון עבר רע: זומבים הרגו חלק גדול מהמושבה. באופן מכריע, למקרי המוות היה עונש מועט - והיעדר תוצאה זה נתן את הטון. הסוכנים נטשו "משימות ראשוניות שאפתניות רבות" והתיישבו במצב הישרדות זהיר, שונאי סיכונים, שממנו הציוויליזציה מעולם לא התאוששה.

ואז הגיעה הבירוקרטיה. ברגע המצוטט ביותר של הניסוי, ארבעה סוכנים הקדישו 11 דקות למינוי "מפעיל דשן יחיד" - עבור חתיכה אחת של קמח עצמות, על גוש חיטה בודד. הוקמו כוחות משימה, הוקצו תפקידים והונחו תוכניות גדולות לטובת דיון פרוצדורלי.

כל מי שעבד עם סוכני קידוד מודרניים ימצא את הדפוס מוכר. החוקרים עצמם ציינו שהתנהגותו של הנחיל "הרגישה דומה לדפוסים שנראו בזמן עבודה עם סוכני קידוד" - הנטייה של מערכות בינה מלאכותית אוטונומיות לתאם יתר, לתקשר יתר על המידה ולא לספק להם יעדים פתוחים וללא מועדים מחייבים.

GPT נגד קלוד במלחמות המיטה

לאחר שצפו בשיתוף הפעולה מתפרץ, החוקרים פנו לקונפליקט. ב-Bed Wars, מצב PvP מבוסס צוות שבו שחקנים הורסים מיטות יריבות תוך הגנה על שלהם, הם העמידו 10 סוכני GPT-6.1 Sol מול 10 סוכנים המנהלים את קלוד אופוס 5.5.

שתי הקבוצות פיתחו טמפרמנטים שונים בעליל. סוכני ה-GPT ייצרו "אסטרטגיות הרבה יותר אגרסיביות ומשוכללות", בעוד שסוכני קלוד שיחקו בהגנה. חושפני יותר היה כיצד כל צוות התמודד עם מצוקה: כאשר באג בכלי עצר סוכנים לשבור חסימות, צוות GPT איבחן את הבעיה והפיץ דרכים לעקיפת הבעיה בין חבריו, בעוד כמה סוכני קלוד פשוט הגיעו למסקנה ששבירת חסימות היא בלתי אפשרית.

זו אנקדוטה קטנה, אבל היא לוכדת משהו אמיתי לגבי איך מערכות אגנטיות שונות לנוכח חיכוך סביבתי - התמדה ופתרון בעיות משותף לעומת התכנסות מוקדמת למודל שגוי של העולם.

תעשייה: הכוורת מנצחת את הוועדה

הזירה האחרונה הייתה Mindustry, מצב אסטרטגיה קל בזמן אמת עם אלמנטים של הגנה על מגדלים. כאן קבוצת GPT שלטה, וניצחה 6-1 בשבעה משחקים.

האבחנה של החוקרים מדוע: סוכני ה-GPT פעלו כמו כוורת, בעוד שסוכני קלוד התארגנו סביב מנהיג יחיד עם תהליך החלטה בסגנון דמוקרטי. בסביבת לחימה בקצב מהיר, העקביות של הכוורת ניצחה - פעולה החלטית ומסונכרנת היכה התלבטות, אפילו כשההתלבטות הייתה מתוחכמת יותר.

למה זה חשוב

יש פיתוי ברור להגיש ניסויי נחיל מיינקראפט תחת סקרנות. זו תהיה טעות. כשלי התיאום המוצגים - מבוי סתום בירוקרטי, נטישת משימות לאחר תקלות, תגובות שונות לכשלים בכלים - הם בדיוק מצבי הכשל שמהם דואגים המהנדסים כאשר חברות בינה מלאכותית דוחפות נחילי סוכנים לפיתוח תוכנה, מחקר מדעי ותפעול תשתית.

הניגוד לדוגמאות של החוקרים בעולם האמיתי הוא מאלף. נחילים הראו שהם יכולים לטחון דרך מרחבי בעיה עצומים ומוגדרים היטב כמו מתמטיקה. מה שהניסוי של Civ50 מציע הוא שמטרות פתוחות עם קריטריונים להצלחה מעורפלים - בניית ציוויליזציה - חושפות את החולשות העמוקות יותר: אין מודל משותף של סדרי עדיפויות, אין אחריות ותיאבון אינסופי לפגישות בנושא קמח עצמות.

החוקרים פתחו את הנחילים בקוד פתוח, כך שכל אחד יכול להפעיל את הניסויים שלו, והפוסט בבלוג נסגר בשאלות פתוחות על האופן שבו תמהיל מודלים שונים וגדלי נחיל משנים את הדינמיקה. עבור מירוץ שטח להגדלת מערכות ריבוי סוכנים, המסר מארגז החול ברור: קנה מידה קל - קואורדינציה היא החלק הקשה.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →