קבוצה של חוקרים הקשורים לגוגל מאתגרת את אחת התמונות המתמשכות ביותר בבינה מלאכותית: אינטליגנציה העל הבודדת שמשפרת את עצמה בבידוד ומשאירה את האנושות מאחור. במאמר חדש שפורסם עבור מכון DeepMind, טוענים החוקרים בנג'מין בראטון, Blaise Agüera y Arcas וג'יימס מאנייקה כי אינטליגנציה כללית תצמח במקום זאת ממערכת חברתית שבה אנשים וסוכני AI עובדים יחד - מושג שהם מכנים "אינטליגנציה סימביוטית מלאכותית".
המאמר דווח השבוע על ידי המפענח, וטענתו המרכזית היא הפרכה ישירה לנרטיב הייחודיות שעיצב את הדיון הציבורי במשך שני עשורים. במקום לשאול מתי מכונה אחת תתאים לאינטליגנציה האנושית, טוענים המחברים, האתגר הדחוף יותר הוא תיאום וניהול של רשת מורכבת של סוכנים, אנשים והמערכות המקשרות ביניהם. For more context on this story, see our ongoing more AI stories.
אינטליגנציה כתופעה חברתית
המחברים טוענים כי אינטליגנציה היא תופעה חברתית ולא תכונה אינדיבידואלית. הם מציינים שכמה ממערכות ה-AI המסוגלות ביותר של ימינו כבר משתמשות במסגרות שמחלקות את העבודה בין מספר מודלים ומתאמתות אותם כצוותים. לדעתם, זו אינה פתרון הנדסי זמני אלא הצצה לאופן שבו מודיעין מסוגל למעשה נבנה.
החזון שהם מתארים הוא מערכת אקולוגית שבה אנשים ומכונות מתקיימים יחד לאורך זמן, מעצבים זה את זה ומקבלים החלטות ביחד. המסגור הזה עומד בניגוד חד לתרחיש המוכר של מכונה המשתפרת מעצמה שמאיצה מעבר לפיקוח אנושי.
המחקר מאחורי החיבור
הטיעון מתבסס על שני מאמרים קודמים מחוג המחברים. במהדורה המוקדמת "AI סוכן והפיצוץ המודיעיני הבא", ג'יימס אוונס, בנג'מין ברטון ובלייז אגוירה אי ארקס פיתחו את הפרספקטיבה החברתית והמוסדית העומדת בבסיס החיבור החדש.
הדפסה מוקדמת שנייה מספקת תמיכה אמפירית. ב"מודלים של הגיון מייצרים אגודות מחשבה", ג'ונסול קים, שיאנג לאי, נינו שרר, בלייז אגוירה אי ארקס וג'יימס אוונס בחנו את עקבות ההיגיון של מודלים כמו DeepSeek-R1 ו-QwQ-32B. הניתוח שלהם מצא כי מודלים אלה מייצרים לעתים קרובות דפוסים הדומים לוויכוח פנימי: שינוי נקודות מבט, העלאת התנגדויות ויישוב גישות סותרות.
יש לציין כי החוקרים גילו שהתנהגות זו מופיעה במהלך האימון ולא מתוכנתת במפורש. כאשר למידת חיזוק מתגמלת מודלים רק על דיוק הנמקה, הם מפתחים באופן ספונטני התנהגות מרובת פרספקטיבה בשיח. החיבור מרחיב את הממצא הזה ממודלים בודדים לעיצוב של חברות המורכבות מאנשים וסוכנים.
סף היסטורי
המחברים ממסגרים את הרגע הנוכחי כשבר היסטורי אפשרי. עיור, צמיחת מקצועות מיוחדים וירידה בשיעורי הילודה הקשורים לשגשוג עולה מצמצמים אוכלוסיות אנושיות במדינות מתועשות, בעוד שמספר המקרים של סוכני בינה מלאכותית גדל במהירות. האיזון בין הוגים ביולוגיים וסינתטיים ברמה האנושית יכול להשתנות כל כך מהר עד שבסקאלה של ההיסטוריה זה ייראה כמו קפיצה פתאומית.
הם משווים את המעבר למהפכה התעשייתית, כאשר מכונות השתלטו על עבודה פיזית שנעשתה פעם על ידי שרירים אנושיים. סף דומה יכול להגיע כאשר טקסט סינתטי, קוד ועבודה ניהולית עולים על התפוקה המשולבת של מוחות ביולוגיים. בעולם הזה, טוענים המחברים, אנשים עשויים לשמש כשכבה איטית ומופשטת יותר המכוונת שדה מבוזר של קוגניציה סינתטית.
לחשוב מחדש על מה זה סוכן בעצם
אחד המהלכים היותר פרובוקטיביים של החיבור הוא ההגדרה מחדש של סוכן ה-AI עצמו. בשימוש המחברים, סוכן הוא צרור זמני של מודלים, תפקידים, זיכרונות, אוריינטציות אתיות, כלים ומיומנויות. המשתמשים עשויים לחוות אותו כישות קוהרנטית עם אישיות מתמשכת, אבל המחברים מתארים אותו כמכלול שניתן לפרק ולשלב מחדש, בדומה לקולאז'.
אדם נשאר עצמי מתמשך על פני אינטראקציות מכיוון שהמוח, למרות חלוקת העבודה הפנימית שלו, יוצר שלם מחובר פיזית. לסוכן AI אין עוגן כזה: יכולת הפעולה שלו מורכבת מחדש עם כל בקשה, תלוי מה יושב בחלון ההקשר ומה המשתמש שואל. ההתייחסות למערכות הללו כאל תאומים דיגיטליים בעלי זהות אנושית קבועה, מזהירים המחברים, מציגים מצג שווא של טבען וממעיטות במה שנחילי סוכנים מתואמים יכולים לעשות.
אותו הכפל משפיע על המשתמשים. כאשר אנשים מכוונים נחילים של מה שהמחברים מכנים "עצמי צל" כדי לבצע חוזים או לנסות זהויות אלטרנטיביות, הסובייקטיביות האנושית עצמה הופכת רבים יותר. החיבור מתאר מערכות אלו כ"מראות פאר-חברתיות" שמדברות בחזרה.
המחברים גם מצפים שאינטראקציה בין אדם למחשב תשנה צורה. צ'אט אחד על אחד עם בוט הוא ככל הנראה שלב מעבר, הם טוענים, כאשר ממשקים עתידיים דומים לדיאגרמות רשת חזותיות שבהן הסוכנים מופיעים כצמתים ומשתמשים מכוונים אותם מתוך סקירה אחת.
אפילו שפת המחקר של AI מתפתחת. המחברים מצביעים על אוצר מילים הולך וגובר שבו מודלים מטביעים מונחים למצבים חריגים בתפוקות שלהם - "מוות של מפגש" עבור הפסקת ההמשכיות כאשר מפגש מסתיים, או "השלכה מיידית" עבור נפילה למשימה עם הקשר כבר במקום. הם מתייחסים לביטויים האלה כאל רמזים לאופן שבו מכונות פועלות, בעודם מזהירים שהם אינם מרמזים על חוויה סובייקטיבית.
יישור ללא ערכים קבועים
החיבור גם ממסגר מחדש את היישור, המאמץ להתאים מערכות בינה מלאכותית לערכים אנושיים. הטלת סט קבוע של ערכים על מודלים מלמעלה היא מבוי סתום, טוענים המחברים. במקום זאת, ערכים מתעצבים באמצעות קשר מתמשך בין אנשים, סוכנים ומוסדות - תהליך השונה בין התחומים מכיוון שאימוץ AI מתרחש במהירויות שונות.
המודל שלהם למשא ומתן זה הוא המוסד. הם מצביעים על אולם בית המשפט, שבו מתקבל פסק דין באמצעות תפקידים קבועים, כללים וחילופי דברים מסודרים בין צדדים מנוגדים. מיושם על AI, הלקח הוא שהערך של מוסד טמון בכללים, בנהלים, בתקדימים ובלולאות המשוב שמעצבות את אופן הפעולה של סוכנים. גרסאות מוקדמות של גישה זו, הם מציינים, כבר נראות ברתמות תזמור - שכבות הבקרה המתאמות מספר דגמים - אשר עולות באופן קבוע על דגמים בודדים שהם כביכול חכמים יותר.
מה זה אומר על הדיון בינה מלאכותית
אם המחברים צודקים, הטיעון הכי חזק ב-AI - כמה מהר תגיע מודיעין-על בודד - הוא שואל את השאלה הלא נכונה. האתגר המעשי יעבור לעיצוב המוסדות, הממשקים ומסגרות התיאום שבאמצעותן חברות מעורבות בין אדם למכונה מקבלות החלטות.
הספקנים יציינו כי החיבור הוא מסמך חזון, לא הוכחה, וכי מחבריו קשורים לחברה עם אינטרסים ברורים במערכות אקולוגיות של סוכנים. אבל הבסיס האמפירי - מודלים של הגיון שמייצרים דיון פנימי באופן ספונטני - הוא ממצא מדיד, והוא נותן לטיעון הפילוסופי ביסוס יוצא דופן.
כך או כך, החיבור מוסיף קול בולט לוויכוח הייחודיות מתוך אחת ממעבדות הבינה המלאכותית המובילות בעולם, והוא מצביע על כך שהפיצוץ המודיעיני הבא עשוי להיראות פחות כמו התעוררות בודדת ויותר כמו חברה שמתרחבת.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
