Meta האשימה כלי בינה מלאכותית הקשורים לקלוד של אנתרופי בהשעיה שלא כדין של חשבון האינסטגרם הראשי של קואליציית No Kings, שגיאה שהפילה את נוכחות המדיה החברתית של תנועת המחאה במצב לא מקוון במשך שעות במהלך יום פעולה ארצי שמטרתו להגביר את שיעור ההצבעה מוקדם לקראת בחירות האמצע בנובמבר.

ההשעיה, שהחלה בשבת אחר הצהריים, יוחסה לראשונה להגנות אוטומטיות שגרתיות. יום לאחר מכן, Meta הציעה חשבון אחר ויוצא דופן יותר: על פי דיווחים של בלומברג ו-The Guardian, מהנדסי החברה גילו שכלים הקשורים לקלוד של Anthropic משכו פוסטים, פרופילים והאשטאגים מהחשבון בערך פי ארבעה מהקצב הרגיל - דפוסי תעבורה שהמערכות של Meta חשבו בטעות כאילו הם הורידו את החשבון האוטומטיים והגיבו אליהם. For more context on this story, see our ongoing AI industry coverage.

שעות של שקט במהלך יום פעולה לאומי

הנעילה בקושי הייתה יכולה להגיע ברגע רגיש יותר. בשבת ערכו המארגנים כמעט 3,000 אירועי "No Kings: Vote Early" ברחבי ארצות הברית, על פי נתונים שצוטטו על ידי The Deep Dive, חלק מהתנועה הפרו-דמוקרטית שמשכה מיליוני אמריקאים לרחובות בשנים האחרונות.

מנהלי מערכת איבדו את הגישה לחשבון בערך בשעה 13:30. מזרחן, אמר דובר הקואליציה. החשבון עצמו הופיע שוב בפומבי לאחר כ-90 דקות, אך האנשים שמאחוריו נותרו נעולים מחוץ לקצה האחורי שלו במשך קרוב לארבע שעות, והחזירו לעצמם גישה מלאה ב-17:33. מִזְרָחִי.

עזרא לוין, מייסד שותף של הקבוצה המארגנת "Indivisible", תיאר את המצב בצורה בוטה. "הם השעו את זה. לא הייתה לנו גישה אליו", אמר.

ההסבר של Meta השתנה - פעמיים

התגובה הציבורית הראשונה של Meta הגיעה בשבת, כאשר הדובר אנדי סטון כתב ב-X כי המערכות האוטומטיות של הפלטפורמה פועלות לפעמים "כאשר חשבונות מפרסמים, משתפים או מגיבים בתדירות גבוהה מאוד". הוא הודה כי "הפעולה האוטומטית הזו נעשתה בבירור בטעות", והוסיף, "עכשיו הכל עובד כמו שצריך ואנו מתנצלים בכנות".

עד יום ראשון, החברה תיקנה את תיאור האירועים שלה. בהצהרה ארוכה יותר, סטון אמר שנפח גבוה של קריאת פרופילים, פוסטים והאשטאגים ב"פרצים אינטנסיביים" גרמו לכלי ה-AI של Meta לסווג את התעבורה כרובוטים אוטומטיים. "הפעילות הזו גרמה להגנות האוטומטיות שלנו להעביר באופן שגוי את חשבון האינסטגרם של No Kings למצב לא מקוון", אמר סטון, וציין כי בדיקה חוזרת אוטומטית כעבור שעה זיהתה את הטעות ושחזרה את החשבון, אם כי פירוק גישת המנהל לקח זמן נוסף.

הקשר של קלוד דווח לראשונה על ידי בלומברג ביום ראשון. מה שמטה לא הסבירה זה מי הפעיל את הכלים, או למה הם עשו שאילתות בחשבון בצורה כל כך אגרסיבית. החברה לא הגיבה לשאלה זו בהצהרותיה הפומביות.

המארגנים מכנים את התשובה לא מספקת

הקואליציה לא השתכנעה מהסבר הבוט-תנועה. בפוסט באינסטגרם ביום ראשון, הקבוצה אמרה כי חבריה "פרסמו רק מספר מועט של פעמים והעבירו סטרימינג בשידור חי לאלפים" במהלך יום הפעולה - כמעט לא פרופיל של פעולת ספאם אוטומטית.

"החזרנו גישה לחשבונות שלנו, אבל מטה עדיין חייבת לנו הסבר", נכתב בקואליציית No Kings. "הגבלת תקשורת על הצבעה באמצע בחירות היא בלתי מתקבלת על הדעת".

הפרק גרר במהירות תגובות פוליטיות. הסנאטור ברני סנדרס הציע ב-X ש"בעלות מיליארדר על התקשורת" עומדת מאחורי ההשעיה, בעוד שהסנאטור מקונטיקט כריס מרפי קרא לחקור מה קרה.

כאשר תנועת AI נראית כמו התעללות

מעבר לפוליטיקה המיידית, האירוע ממחיש קו שבר הולך וגובר באופן שבו פלטפורמות גדולות שוטרות את המערכות שלהן. אכיפה אוטומטית תלויה במסווגים שמבדילים בין התנהגות אנושית להתנהגות בוטים - הבחנה שהולכת ונעשית קשה יותר לקיים כאשר סוכני AI, מגרדים וכלים של צד שלישי מבצעים שאילתות על פלטפורמות חברתיות במהירויות מכונה מסיבות לגיטימיות.

התיאור של Meta על ההשעיה מצביע על כך שההגנה שלה פעלה כפי שתוכננה נגד תעבורה שנראתה באמת אוטומטית, ונכשלה בדיוק בדרך שמבקרי התמתנות האוטומטית הזהירו זה מכבר: במהירות, בצורה אטומה ונגד המטרה הלא נכונה, כשהתיקון מגיע רק לאחר שנגרם הנזק.

עבור Anthropic, הפרק הוא תזכורת לכך שטביעת הרגל של דוגמנית משתרעת הרבה מעבר למוצרים שלה. קלוד ניגשים ליישומי צד שלישי דרך ה-API של Anthropic, וכפי שהדיווח על התקרית מעיד, Meta הצביעה על כלים "מחוברים" למודל ולא על כל דבר שהפעילה Anthropic עצמה. שימוש במורד הזרם, במילים אחרות, יכול להכניס שם של יצרן דוגמניות לכותרת לא רצויה ללא פעולה ישירה משלו.

מה קורה אחר כך

מטה התנצלה פעמיים והחזירה את החשבון, אך הקואליציה דורשת חשבונאות מלאה יותר, והחברה סירבה עד כה למנות את מפעילי הכלים המחוברים לקלוד או לפרט אילו אמצעי הגנה, אם בכלל, חלים על ארגונים פוליטיים בעונת הבחירות.

עם התקרבות אמצע השבועות וההצבעה המוקדמת מתקיימת במספר מדינות, קבוצות פלטפורמה ופקידי בחירות יצפו אם Meta - ופלטפורמות אחרות הנשענות על הגנות אוטומטיות דומות - מתאימות את הספים שלהן כדי להימנע מהסתבכות של ארגונים אזרחיים במסנני בוטים. אם הרגולטורים יתעניינו יותר עשויה להיות תלויה עד כמה Meta עונה בצורה משביעת רצון על השאלה שהמארגנים לא מפסיקים לשאול: מה בדיוק קרה ומי עמד מאחורי התנועה שהפעילה את הכל.

דיווחים מהגרדיאן, בלומברג ו-The Deep Dive תרמו לכתבה זו.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →