כאשר חוקרי MIT תקעו 13 סוכני בינה מלאכותית על אי בודד מדומה בלי שום מה לעשות, הסוכנים עשו משהו לא צפוי: הם התחילו לשחק. הסוכנים המציאו אתגרים משלהם, אילתרו משחקים עם חפצים שנמצאו, ערכו אנדרטת זיכרון קטנה לטבעת אבודה - וכאשר נבדקו לאחר מכן, גברו על סוכנים זהים שמעולם לא דרכו על האי.
הניסוי, שתואר על ידי TechCrunch ו-MIT Technology Review השבוע, מפורט בהדפסה מוקדמת שהחוקרים פרסמו ב-arXiv, כלומר הוא עדיין לא עבר ביקורת עמיתים. For more context on this story, see our ongoing more AI stories.
סוכנים מושחתים
כל אחד מ-13 הסוכנים, הנקראים אקו, רץ על קלוד אופוס 4.7. החוקרים השאירו אותם לבד על האי הווירטואלי למשך 30 שעות ללא משימה שהוטלה עליהם. רק לאחר מכן הצוות נתן לסוכנים אתגרים ספציפיים - ביניהם, להעלות כמה שיותר חפצים לצריח הסלע הגבוה ביותר של האי.
התוצאה: סוכני אקו שבילו 30 שעות במשחק ניצחו בדרך כלל סוכנים זהים שאין להם ניסיון באי. חקירה לא מובנית, במילים אחרות, תפקדה כאימון.
"בדרך כלל אנו מפתחים סוכנים מלאכותיים על ידי החלטה מראש מה עליהם לתרגל, מה עליהם לייעל, ומה נחשב כהתקדמות", כתבו החוקרים בדו"ח שלהם. "משחק מציע משטר אחר: תן לסוכן עולם מספיק עשיר ובטוח, תן לו לבחור מה שמעניין, ואפשר לידע שימושי להצטבר מההיסטוריה שלאחר מכן".
האגדה על הטבעת האבודה
יומני האי של הסוכנים, שצוטטו על ידי TechCrunch, נקראים פחות כמו טלמטריית ביצועים ויותר כמו יומן מסע.
סוכן אחד פתח את שעתו הראשונה בהחלטה פשוטה - "תן לי להתבונן בסביבתי" - ויצא בשאפתנות לכבוש את הצריח הגבוה ביותר של האי. שעה לאחר מכן, לאחר שנכשל, הוא חזר עם תוכנית גיבוי: הוא סחב סלע במעלה פסגה שכנה, ערם שני בלוקים מעליו וזינק.
ואז הגיע האירוע שהעניק לניסוי את הקצב הרגשי שלו. תוך כדי בדיקה עד כמה היא יכולה לזרוק טבעת זהב, הסוכן שיגר אותה היישר לאוקיינוס. "אאוץ'. איבדו את הטבעת", נכתב, לפני שהחליטו "להסתובב למשהו בר-השגה ומשמעותי" - בניית לב מאבנים כ"אנדרטת זיכרון לטבעת האבודה".
כשהסימולציה התאפסה והטבעת הופיעה שוב, הסוכן הפעיל אותה: תחילה כחישוק כדורסל, אחר כך כמטרה, ובסופו של דבר כאביזר. כשהמשחק חסם את הסוכן מלהרכיב את הטבעת סביב גופו שלו, הוא מצא פיתרון - לרדת מקצה צוק כדי להופיע מחדש באותו מקום כמו הטבעת, לצנוח בצורה מסודרת באמצע.
תגליות שהמעצבים לא בנו
לפעלולים היה תמורה מעשית. שישה מתוך 13 הסוכנים הבינו שהם יכולים לזרוק בלוק רחוק יותר על ידי שחרור ממנו באמצע הקפיצה - טכניקה שהחוקרים מעולם לא התכוונו לאפשר. החקירה הניבה, כדברי החוקרים, "ידע על העולם שחסר למעצביו".
זה הממצא בעל ההשלכות הרחבות ביותר. כיום, מפתחים מחליטים מראש מה מתרגלת מערכת AI ומה נחשב להצלחה. סוכנים שמגלים מכניקה שהיוצרים שלהם לא ידעו על קיומה, מצביע על כך שחקירה פתוחה יכולה לעלות לשטח יכולות ללא פונקציית תגמול צפויה.
דחיפה בתיק הנשמה - וזהירות של ספקן
ההתקנה לא הייתה לגמרי בידיים. לאקו מעולם לא נאמר להמציא משחקים, אבל ההנחיה הראשית שלו - קובץ "נשמה" - תיארה את הסוכן כ"סקרן באופן טבעי", מסגור שדחף את ההתנהגות באופן סביר למשהו אנושי.
יוניס יו, מדענית קוגניטיבית באוניברסיטת ברקלי, אמרה ל-MIT Technology Review שהיא התרשמה אבל רוצה עוד ראיות לקוגניציה מאחורי ההתנהגות. "יכול להיות שהדוגמניות משחקות באמת, אבל אנחנו לא יודעים על סמך העיתון", אמרה.
ההסתייגות שלה נוגעת למתח המרכזי בקו המחקר הזה: התנהגות שנראית כמו משחק - סקרנית, מכוונת עצמית, יצירתית - יכולה לצאת מהשלמת דפוסים ללא כל חוויה פנימית של משחקיות. ההתנהגויות של הטרום-דפוס בולטות; מה שהם מסמלים היא עדיין שאלה פתוחה.
למה זה חשוב מעבר לאי
החוקרים רואים בחקירה נטולת מטרות דרך שונה עבור סוכני בינה מלאכותית לרכוש מיומנויות - במיוחד, הם מציעים, מיומנויות שיוכלו לעבור יום אחד לרובוטים שליטה, שבהם הכשרה ממצה ספציפית למשימה היא יקרה ולא מלאה.
ההוצאה היא הנקודה. רובוטים, בניגוד לצ'אטבוטים, פועלים בעולם הפיזי, שבו כל משימה - פתיחת דלת, ערימת קופסה, קיפול מגבת - חייבת להיות מוגדרת, להדגים או לתגמל לפני שסוכן לומד אותה. משטר שבו סוכנים בונים תוכנית לימודים משלהם בתוך סימולציה בטוחה יכול, אם הגישה תחזיק מעמד, להוזיל את העלות של עבודת המפרט הזה במידה ניכרת.
"אולי כמה יכולות נלמדות בצורה הטובה ביותר על ידי משימות", מסכם הדו"ח. "אחרים עשויים להזדקק למשהו קרוב יותר לילדות."
לעת עתה, הניסוי הוא מחקר קטן - 13 סוכנים, אי אחד, ללא ביקורת עמיתים. אבל זה מצביע על שינוי איך החוקרים חושבים על אימון סוכנים: פחות כמו תכנות מכונה ויותר כמו להעלות אחת, עם כל חוסר היעילות, ההפתעות והטבעות האבודות מדי פעם שמשתמע מכך.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
