OpenAI אמרה ביום שלישי כי היא אסרה אשכול חשבונות ChatGPT שמקורם ברוסיה ששימשו לתמיכה במסע השפעה מקוון סמוי - פעולה שנבנתה סביב ארגון מחקר פיקטיבי בשם International Burke Institute, שיצר קשרים עם אקדמאים בולטים והפיץ את הרוב המכריע של החומר שפורסם.

החברה חשפה את ההסרה בפוסט בבלוג שכותרתו "שיבוש מסע השפעה סמוי חדש מרוסיה", והממצאים דווחו על ידי CNBC ו-Quartz. לפי OpenAI, החשבונות שימשו לקידום מכון בורק הבינלאומי, או IBI, "קהילת מומחים" המתוארת בעצמה, שהאתר שלה רשום כתובת רחוב בישראל ונרשם בפברואר 2025. For more context on this story, see our ongoing AI industry coverage.

צוות חשיבה שמעולם לא היה

מרכז המבצע היה הופעת הלגיטימיות הממסדית. אתר IBI טען באופן כוזב כי מציגים אקדמאים בולטים כולל פרנסיס פוקויאמה ונועם חומסקי, אמר OpenAI. בסקירה של 36 מאמרים המקושרים למומחים הרשומים באתר ופורסמו בין ספטמבר 2025 למאי 2026, מצאה החברה ש-34 הועתקו ממקומות אחרים באינטרנט - לפעמים עם ייחוס שגוי.

מאפיין מרכזי של הקמפיין היה "מדד ריבונות" שדירג מדינות לפי מדד שנועד להצביע על רוסיה לטובה תוך ביקורת על מדינות המערב. דיווחים על צרפת, גרמניה, ארצות הברית והאיחוד האירופי פנו לפולמוס, אמר OpenAI. באחד הערכים על ארה"ב נכתב: "טראמפ הגיע [לבייג'ינג] עם מדד הריבונות מספר 1 בעולם ועזב לאחר שנקט מספר צעדים ש... ניתן להתייחס אליהם כהפחתה מרצון באוטונומיה".

איך המבצע עבד

OpenAI אמרה שהיא מעריכה את החשבונות כסבירים מאוד שמקורם ברוסיה למרות ההסוואה. כדי להתחמק מהאיסור של OpenAI על גישה למודלים מרוסיה, המפעילים ניתבו את החיבורים שלהם דרך VPN, אמרה החברה. בעבודה ברוסית, הם השתמשו ב-ChatGPT כדי לנסח תוכן של מדיה חברתית שהופיע ב-Substack, בטלגרם, X, Facebook ולינקדאין - כשהם מכוונים את המודל להסיר כל תכונות של הטקסט שעלולות להסגיר את מקורותיו שנוצרו בבינה מלאכותית. רוב התוכן שנוצר נכתב באנגלית, בחירה המעידה על כך שהמבצע כוון לקהל מערבי ולא לקוראים רוסיים מקומיים.

המבצע התרחב מעבר לתוכן באנגלית. מפעיל אחד יצר פוסטים בשפה הגרמנית עבור ערוץ טלגרם בשם "לאמה אנטה" - גרמנית עבור "ברווז צולע" - אשר מתח ביקורת על אוקראינה, האיחוד האירופי וממשלת גרמניה תוך כדי תמיכה בקשרים הדוקים עם רוסיה. מפעיל שני יצר לוגואים עבור כתריסר ערוצי טלגרם המתמקדים בגרמניה, ארצות הברית, צרפת, פולין וטורקיה, וביקש סיכומים בשפה הרוסית של פעילותם.

טווח הגעה מוגבל, אבל שרטוט מדאיג

לפי מדדי מעורבות קונבנציונליים, הקמפיין לא זכה להצלחה. OpenAI הכירה בכך שרוב הפוסטים ברשתות החברתיות קיבלו ספירת צפיות נמוכה, לחשבונות IBI הרשמיים היו מעט מנויים, וערוצי הטלגרם הקשורים משכו בין 10,000 ל-20,000 עוקבים כל אחד.

אבל החברה טענה שמשמעות המבצע אינה נעוצה בהשגתו אלא במנגנון שהמפעילים שלה בנו. פוסטים שהופקו עם ChatGPT פנו את הקוראים לעבר מה שנראה כגוף מחקר לגיטימי - עם כתובת פיזית, סגל מומחים וזרם קבוע של פרסומים. המבנה הזה, אמר OpenAI, מדגים כיצד כלי בינה מלאכותית יכולים לעזור לשחקנים גרועים לייצר אמינות מוסדית, לטשטש את המקור האמיתי של נרטיבים מועדפים ולהניח את הבסיס לפעולות שיכולות לגדול במידה ניכרת.

הקרב הרחב יותר על ההשפעה שנוצרה על ידי בינה מלאכותית

ההסרה היא האחרונה בסדרת הפרעות ש-OpenAI הכריזה בהן מעורבים גורמי איומים המזוהים עם המדינה, והיא מגיעה על רקע העדויות הולכות וגדלות לכך שפעולות ההשפעה מעבירות את השאיפות שלהן מהזנות של מדיה חברתית לכיוון מערכות AI עצמן. מוקדם יותר באוגוסט, חקירה נפרדת של Responsible Statecraft תיעדה צוות חשיבה מזויף המפרסם יותר מ-100 דוחות בשבוע במאמץ לכאורה לתמרן את התשובות צ'אטבוטים של AI על ישראל ופלסטין.

ביחד, המקרים משרטטים ספר משחק מתפתח: במקום רק לדחוף מסרים לבני אדם, מפעילים בונים מוסדות שקריים שאפשר לצטט, לגרד ולספוג את הפלט שלהם במודלים של AI שמתווכים יותר ויותר איך אנשים פוגשים מידע.

עבור חברות בינה מלאכותית, המשמעות היא לא נוחה. אותם מאפיינים שהופכים מודלים של שפות גדולים לשימושיים - שרטוט רב לשוני שוטף, עלות נמוכה, פלט בלתי נלאה - הופכים אותם לתשתית אטרקטיבית לתעמולה מכובסת. התגובה של OpenAI במקרה זה הייתה הסרה ברמת התוכן: חשבונות אסורים, טקטיקות עם שם והסבר ציבורי על אופן הפעולה של הפעולה.

האם גילויים כאלה יכולים לעמוד בקצב הפעולות שהם מתארים נותרה אחת משאלות האבטחה המרכזיות של עידן הבינה המלאכותית. כפי שמבהיר הדו"ח של יום שלישי, העלות של בניית מוסד מזויף משכנע ירדה באופן דרמטי - והגופים המוצבים בצורה הטובה ביותר לאתר אותם הם החברות שהמודלים שלהן משמשים לבנייתן.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →