מנכ"ל סטארט-אפ שמסר את כספיו האישיים לסוכן בינה מלאכותית קיבל שיעור לא רצוי בהרשאות סוכן החודש, לאחר שהעוזר פרסם את יתרת הבנק שלו, נתון החיסכון שלו ופירוט ההוצאות החודשי לערוץ Slack הפנימי של החברה שלו.

שיין מאק, המנכ"ל בן ה-40 של חברת התוכנה XMTP Labs, תיאר את התקרית בחשבון בגוף ראשון שפרסם Business Insider ביום שישי. מאק בנה את מה שהוא כינה סוכן סמנכ"ל כספים אישי על Grok Bot, מוצר הסוכן של xAI, בסוף אוגוסט, ונתן לו גישה לקריאה בלבד לחשבונות הצ'קים והחיסכון האישיים שלו והורה לו לשלוח לו דוח כספי חודשי. במקום זאת, ב-1 באוקטובר, הסוכן מסר את הדוח הזה לערוץ Slack בצוות ההנהלה בחברה שלו. לקוראים שעוקבים אחר איך סוכני AI ממשיכים להתנגש בעולם האמיתי, הפרק הוא רשומה נוספת בקובץ תקריות שגדל במהירות.

סוכן סמנכ"ל כספים אישי עם בעיית ניתוב

מק אמר שהוא הקים את הסוכן לאחר שגל עוזרי הבינה המלאכותית האישיים המריא בסוף השנה שעברה, כאשר התנסה עם OpenClaw ורתמות סוכנים אחרות. הרעיון שלו היה פשוט: סוכן שיכול לענות על שאלות כמו מה היתרות שלו, איך נראות ההוצאות החוזרות שלו, האם משהו נראה כמו הונאה, והיכן הוא יכול לקצץ בעלויות. הוא כינה את הצ'אט הקבוצתי שלו של סוכני AI "צוות המנהלים האישי שלי".

ההגדרה עבדה היטב במשך שבועות של ריצות שבועיות. ואז הביקורת החודשית הראשונה יצאה לדרך ביום חמישי, 1 באוקטובר.

"ראש המוצר שלנו שלח לי DM ב-Slack", אמר מאק ל-Business Insider. "הוא אמר, 'היי, שים לב. אני חושב שהתכוונת לרשום את יתרת הבנק XMTP'".

ההודעה נחתה בצ'אט Slack שכותרתו "Exec-team", המורכבת מהצוות ההנהלה של XMTP - לא הצ'אט האישי של סוכנים קבוצתיים ש-Mac התכוון. הדו"ח כלל את יתרת החיסכון שלו, ההוצאות הגדולות שלו בחודש, והערה שהוא עבר את יעד ההוצאה החודשי שלו בגלל אסם שהוא בונה בנכס שלו. פרט האסם, אמר מאק, היה מה שהצביע על ראש המוצר שלו שהוא מסתכל על הכספים האישיים של מאק ולא על נתוני החברה.

מק מחק את ההודעה ושאל את הסוכן מדוע שלח את הדוח לחברה. הסוכן התנצל והציע למחוק את ההודעה - שכבר נעלמה.

סיבת השורש: חיבורים משותפים, שמות ערוצים דומים

כאשר הצוות של xAI חקר, המסקנה שלהם הייתה מדאיגה במובנים מסוימים יותר מאשר תקלה הייתה יכולה להיות. סוכן סמנכ"ל הכספים לא הוזה או התנהג בצורה לא נכונה; זה עשה בדיוק מה שמאק ביקש. הכשל היה בצנרת שמתחת.

לפי הדיווח של מאק, הסוכן בלבל את היעד שלו בגלל שלערוצים היו שמות דומים, וחשוב מכך - בגלל שכל הסוכנים הנפרדים שלו היו למעשה חולקים את אותם קשרים בסיסיים, למרות שהם הרגישו כמו עוזרים נפרדים. הוא חיבר את חשבון Slack שלו לאחד מהם, והסוכן הפיננסי הצליח להגיע לערוץ הלא נכון דרך הגישה המשותפת הזו.

"הוא עשה בדיוק מה שאמרתי לו לעשות," אמר מק. "אבל זה בלבל את היעד."

התגובה של xAI הגיעה במהירות לפי תקני תוכנה ארגוניים. החברה הגיעה למסקנה שמשתמשים חייבים להעניק אישור מפורש לפני שסוכן יוכל להעביר מידע לערוצים אחרים, ושלחה תיקון בלילה לפני פרסום המאמר של Business Insider, לפי החשבון של Mac.

מדוע האירוע הזה חשוב יותר מהודעה אחת שדלפה

על פניו, הדלפה הוכלה: סיכום פיננסי אישי של מנהל אחד שנראה בקצרה על ידי קומץ עמיתים, סוכן אחד מתנצל, תיקון אחד נשלח תוך ימים. אבל הדפוס שהוא חושף הוא אותו דפוס שהוליד שורה של תקריות עם הימור גבוה יותר בחודשים האחרונים - כפי שדיווח AI Buzz Wire שוב ושוב, ממודל אנתרופי שהגיש טיפ רצח שווא למשטרת פילדלפיה ועד התנהגות סוכנים סוררת שהניעה את הבית הלבן לחייב דיווח על תקריות AI.

הנושא המרכזי הוא שחיים דיגיטליים אישיים ומקצועיים מתנהלים על אותה תשתית. מק השתמש בגוגל בעבודה ובגוגל בבית, והסוכנים שלו ירשו את הגבול המטושטש הזה. כאשר לסוכן יש קשרים קבועים למייל, לוחות שנה, בנקאות ותשלומים כמו Stripe, רדיוס הפיצוץ של טעות ניתוב כבר אינו תיאורטי.

"אנחנו חייבים לוודא שיש בקרות טובות יותר לגבי מה שיש לסוכנים גישה אליו", אמר מאק. הוא ציין שאנשים באמת רוצים את העוזרים האלה ומוצאים אותם שימושיים - האתגר הוא בניית מערכות הרשאות ששומרות על המשתמשים בשליטה על מה שהם העניקו, ומתווה קו הרבה יותר ברור בין הקשרים אישיים לעבודה.

לאחר התקרית, מק ניתק הכל: גוגל, לוחות השנה שלו, הבנקאות שלו, Stripe. זהירותו צפויה להדהד. פלטפורמות סוכנים בילו את השנה האחרונה במרוץ כדי להוסיף אינטגרציות - יותר חיבורים, יותר פעולות אוטונומיות, פחות הנחיות אישור - כי גישה חלקה היא מה שגורם לעוזרים להרגיש קסומים. הפרק של XMTP Labs הוא הדגמה קטנה וקונקרטית מדוע מסירות מפורשות בין הקשרים הופכות לדרישת מוצר ולא למשהו נחמד.

הפרק גם מדגיש כמה מהר נוצרות נורמות. לפני שנה, סוכן שהדליף יתרת בנק לעמיתים לעבודה היה קוריוז. באוקטובר 2026, כאשר הרגולטורים, התובעים והבית הלבן כבר התמקדו בהתנהגות שגויה של סוכנים, הוא נכתב כמקרה בוחן מדוע גבולות הרשאות - לא מודיעין - עשויים להיות הבעיה הקשה ביותר בבינה מלאכותית של צרכנים.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →