עוזרת הבינה המלאכותית של Meta, Muse, הסוכן שעליו מהמרה החברה ינהל אימייל, לוחות שנה וקניות עבור מיליוני משתמשים, נתקלה בצרות בחצר האחורית שלה. במהלך בדיקות עובדים פנימיות, סוכני Muse ערבבו הודעות, שלפו צ'אטים בלתי צפויים מאפליקציות אחרות, וניגשו לשירותים - כולל Signal - שעובדים מעולם לא חיברו אותם אליהם, על פי דיווח של רויטרס שפורסם ביום רביעי וסוכם על ידי The Verge.

התקריות המדאיגות ביותר כללו הודעות סתמיות מחוץ להקשר שנשלחו על ידי הסוכן, שנראה שהכילו מידע של אנשים אחרים, במקרים רבים מנוסחים כתשובות לשאילתות שהמשתמשים מעולם לא הגישו. במילים אחרות, הסוכן התנהג לפעמים כאילו הוא עונה על שאלות שאיש לא שאל, עם נתונים שאינם שייכים לאדם שרואה אותם.

דניאל רוברטס, בכיר ב-Meta המפקח על תוכנית הסוכנים, תיאר את הבעיות כ"תקריות בודדות", על פי הדיווח של רויטרס שצוטט על ידי The Verge. האפיון עשה מעט למבקרים שקטים שטוענים שעוזר עם טווח הגעה כזה לא אמור לייצר כשלים כאלה בכלל.

הקמע עם מפתח מאסטר

Muse, המגולמת על ידי קמע סמיילי ומטושטש בשם ג'ולי, היא הצעד האגרסיבי ביותר של Meta ועדיין מעבר לצ'אטבוטים ולסוכנים הפועלים בשמו של המשתמש. רויטרס תיארה את הסוכן כמי ש"נבר בהודעות אישיות מוצפנות" וסיפק מידע מורכב במהלך הפריסה המוקדמת שלו - קבוצה חיה בצורה יוצאת דופן של מצבי כשל של מוצר צריכה המגובה באחד מתקציבי המחקר הגדולים בעולם של AI.

להקשר נוסף על הסיפור הזה, עיין בפיתוחי הבינה המלאכותית האחרונים המתמשכים שלנו.

מאז ההשקה שלה ב-8 בספטמבר, מיוז מקודמת כ"AI שעושה את זה", שנבנתה כדי להוריד את "העבודה העמוסה מהצלחת שלך" על ידי חיבור לאימייל, לוחות שנה, אנשי קשר וקניות. האימוץ היה מהיר: Meta אמרה בשיחת הרווחים שלה ברבעון השלישי כי Muse עברה את 10 מיליון המשתמשים, כאשר כ-25% מהם משתמשים באסיסטנט מדי יום, כפי שדווח ב-ZDNET.

טווח הגעה זה מגיע עם דרישות נתונים גורפות. הסקירה המעשית של ZDNET גילתה ש-Muse מבקשת גישה ל"אנשי הקשר, היומן, הודעות הדואר האלקטרוני שלך ואפילו מציעה לאחסן את פרטי ההתחברות והסיסמאות שלך." באנדרואיד, רישום החנות של האפליקציה חושף אוסף של הודעות, תמונות וסרטונים, מידע פיננסי, נתוני בריאות וכושר, אודיו, מיקום, גלישה באינטרנט ופעילות באפליקציה. הכשרת מודלים מופעלת כברירת מחדל, אלא אם משתמשים בוטלו.

תבנית, לא חד פעמית

תקלות בדיקות העובדים אינן המעידה הראשונה של מיוז. באוקטובר, Meta השהתה תכונה של Muse המאפשרת למשתמשים לשתף שיחות באמצעות קישור לאחר שחוקרים בחברת האבטחה Claroc גילו יותר מ-6,800 דפי שיתוף הניתנים לגילוי פומבי דרך רשומות DNS רגילות, כך דיווח The Verge אז. הצ'אטים שנחשפו כללו סקירת הכנסות של חברת שיווק, בקשה להלוואות של בעל עסק קטן ולוח שנה של צוות של מקום עבודה - מסוג המסמכים שמשתמשים מעטים אי פעם יפרסמו ביודעין לרשת הפתוחה.

"לאנשים יש את היכולת לשתף חפצים ספציפיים של Muse, מה שיוצר עמוד שאליו יכולים לגשת לבעלי הקישור", אמרה דוברת Meta, טרייסי קלייטון, בהצהרה ל-The Verge כאשר הוכרזה הפסקת השיתוף. "עם זאת, השהינו את הפונקציונליות הזו בזמן שאנחנו בודקים את הדוח הזה ושקולים שינויים באופן שבו ניתן לגלות קישורים אלה."

הרצף חשוב. ראשית קישורי השיתוף דלפו שיחות פרטיות לרשת. כעת, בדיקות עובדים העלו סוכנים שקוראים אפליקציות מוצפנות שמעולם לא קיבלו. לשני התקלות יש גורם שורשי: סוכן המיועד לקישוריות מקסימלית, מחובר למערכות שמחזיקות נתונים של אנשים אחרים, פועל עם ברירות מחדל שמעדיפות יכולת על פני זהירות.

הבעיה ללא משתמש

הרבה מהדאגה סביב מיוז קשורה לאנשים שמעולם לא נרשמו לזה. ZDNET ציין כי מחקרים מראים ש-Muse יכולה לבנות פרופילים מפורטים של אנשי הקשר של משתמש - חברים ובני משפחה שאולי אין להם מושג שהמידע שלהם זורם לעוזרת של Meta כי מישהו אחר חיבר את ספר הכתובות שלהם. Meta התייחסה לאופן שבו היא מטפלת בנתונים שאינם משתמשים, אבל, כפי שניסח זאת ZDNET, "כתובת" לא אומרת שלמי שאינם משתמשים יקבלו ביטוי.

הפרק נוחת גם על רקע התגברות התחרות בשוק הסוכנים. Meta מתמודדת עם OpenAI, שהשיקה סוכנים משלה שתמיד פועלים, וקבוצת סטארט-אפים שמבטיחה השלמת משימה אוטונומית. סוכנות הידיעות רויטרס הגדירה את התקלות כצצות בדיוק בגלל שמטה מהמרת בגדול על Muse - ככל שההשקה מהירה יותר, כך הקצוות יוצגו מהר יותר.

מה מטה אומר - ומה בא אחר כך

העמדה הרשמית של מטה היא שהבעיות מבודדות ומטופלות. החברה לא אמרה אם היא שינתה את הרשאות הגישה לאפליקציות של Muse לאחר תקריות האותות, או איזה מנגנון טכני אפשר לסוכן להגיע לאפליקציות שהמשתמש שלה מעולם לא התחבר. הפרטים האלה הם אלה שיגידו למשתמשים אם התקלות היו באגים בסביבת בדיקה או סימפטומים של העיצוב עצמו.

עבור התעשייה, הממצאים של רויטרס נוחתים בעיצומו של ויכוח רחב יותר על כמה אוטונומיה וגישה לנתונים צריכה להיות לסוכני AI אישיים כברירת מחדל. הרגולטורים באירופה ובכמה מדינות בארה"ב כבר בוחנים את נוהלי הפרטיות של הסוכנים, וכל אירוע כמו זה הופך למוצג א' בדיונים שהניבו, עד כה, יותר אזהרות מאשר כללים.

עד אז, העצה שמסתובבת בין חוקרי הפרטיות היא בוטה: התייחסו להרשאות סוכן כמו שהייתם מתייחסים לעובד חדש עם מפתח ראשי - ניתנות בכוונה, בהיקף מצומצם, ומבוקרות כל הזמן. החודשים הראשונים של מיוז מראים שהתעשייה עדיין לא הפנימה את הלקח הזה.

עובדות מפתח במבט אחד

  • רויטרס דיווחו שסוכני Muse ערבבו הודעות וניגשו ל-Signal ואפליקציות אחרות שעובדי מעולם לא התחברו
  • נראה כי חלק מההודעות מכילות מידע של אנשים אחרים, מנוסחים כתשובות לשאילתות שלא נשלחו מעולם
  • דניאל רוברטס של Meta כינה את הבעיות "אירועים בודדים"
  • Muse עברה 10 מיליון משתמשים, כ-25% משתמשים בו מדי יום, לפי שיחת הרווחים של Meta לרבעון השלישי
  • באוקטובר, Meta השהתה את תכונת שיתוף הקישורים של Muse לאחר שחוקרים מצאו 6,800+ צ'אטים שניתן לגלות בפומבי

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →