OpenAI אמרה ביום חמישי כי היא אסרה על שתי פעולות השפעה חשאיות - אחת שמקורה ברוסיה ואחת באיראן - שהשתמשו ב-ChatGPT כדי להפעיל ישויות "חזית שווא" מתוחכמות שנועדו להלבין תעמולה גיאופוליטית לכלי תקשורת אמיתיים. החברה אמרה שהקמפיין ממוצא רוסיה הוא מבצע ההשפעה מרחיקת הלכת שהיא שיבשה מאז שהחלה לפרסם דוחות איומים לפני שנתיים וחצי.

החשיפה, שפורסמה באתר האינטרנט של OpenAI, היא הרשומה האחרונה בשורה של דיווחים על האופן שבו שחקנים מיושרים במדינה משתמשים לרעה במודלים מסחריים של AI. זה גם מדגיש, כפי שציינו בסיכום חדשות הבינה המלאכותית האחרון שלנו, דפוס ש-OpenAI צפתה ב-30 הפעולות החשאיות שחשפה מאז תחילת 2024: קמפיינים שמצליחים למקם את התוכן שלהם בפרסומים אמיתיים מגיעים לקהלים גדולים בהרבה בחשבונות מזויפים של מדיה חברתית.

קטגוריה 5 ראשונה: מבצע "Dark Clark"

המבצע הרוסי, ש-OpenAI כינה "Dark Clark", התרכז בארגון מחקר באמריקה הלטינית בשם המרכז למחקר חברתי (SRC). לפי OpenAI, המפעילים שלטו בצוות החשיבה באמצעות דמות מפוברקת בשם "מיה קלארק", בעוד עובדים מקומיים באמריקה הלטינית ערכו ראיונות וניסוח עבודות מחקר מבלי לדעת שהם עובדים עבור קבוצה רוסית.

באמצעות סולם הפריצה - מדד של 1 ל-6 של טווח ההגעה הפוטנציאלי של מבצע השפעה שפותח ב-Brookings - OpenAI העריכה את Dark Clark בקטגוריה 5, הדירוג הגבוה ביותר שהעניקה למבצע כלשהו מאז תחילת הדיווח שלו. הקמפיין שמקורו באיראן הגיע לקטגוריה 4.

חלק ניכר מהשימוש של המפעילים ב-ChatGPT נכנס לדיווחים פנימיים למטפל לא ידוע, אמר OpenAI, המתאר קמפיינים להשפיל אוקראינה, לערער את הגיוס לכוחות המזוינים של אוקראינה ולהתערב בפוליטיקה הפנימית בארגנטינה ובבוליביה. המפעילים ביקשו בעיקר ברוסית והסתמכו על VPNs כדי לגשת לשירות, שחוסם תעבורה מרוסיה.

החוקרים של OpenAI אישרו כמה מהקמפיינים הנטענים של המבצע באמצעות מקורות פתוחים. אחד מהם כלל אימיילים מזויפים המתיימרים להגיע ממנהל החינוך האזורי של לימה, והנחו בתי ספר בבירת פרו לקיים אירועים לכבוד סטפן בנדרה - הדמות הלאומנית האוקראינית השנויה במחלוקת - ביום גיוון לאומי. חנויות פרואניות ופולניות סיקרו את המחלוקת שהתפתחה, וחבר פולני בפרלמנט האירופי צוטט בסיקור על כך. באקוודור, מפעילים השתמשו בכתובת דוא"ל מזויפת כדי להערים על בתי ספר לקיים הבטחת נאמנות לנשיא דניאל נובואה ולראש בלקווטר לשעבר אריק פרינס; הפעלול גרר סיקור תקשורתי והפרכה פומבית של שר החינוך של אקוודור.

המבצע גם הפיץ הקלטות אודיו מפוברקות, כולל אחת המיוחסת לעובד בחברת המים הממשלתית של בוליביה EPSAS בטענה שהממשלה תקצץ את האספקה ​​ללה פאז, ואחרת מיוחסת לקונסול אוקראינה באקוודור. בודקי עובדות בשתי המדינות דחו את הטענות. חוקרי קוד פתוח קשרו בעבר פעילות דומה ל"פוליטיולוגיה" או ל"לה קומפניה", גופים שתוארו כיורשים למבצע של יבגני פריגוז'ין המנוח, והדיווחים של המפעילים עצמם טענו כי קמפיינים מכוונים לנשיא ארגנטינה חוויאר מיילי התואמים את הדיווח הציבורי הזה.

שבעה עיתונאים מזויפים: מבצע "Bgus Bylines"

המבצע האיראני לקח נתיב אחר לתוך המערכת האקולוגית של התקשורת. המפעילים שלה, שהניעו את ChatGPT בפרסית, השתמשו במודל כדי לחדד מאמרים ארוכי טווח בשפה האנגלית על הסכסוך בין ארה"ב לאיראן, ולאחר מכן העלו אותם לעורכים בחנויות מקוונות קטנות ובינוניות תוך שימוש בשבע פרסונות עיתונאיות מפוברקות: ארווין ב. הוסקינס, נואה למינגטון, סופיה גונזלס, מייקל אליס האריסון, ג'יי אלקסה האריסון, ויליאם פייס ג'ונסון.

OpenAI זיהתה קרוב ל-100 מאמרים שפורסמו או הוצגו בסינדיקציה תחת קווי הכותרת הללו על פני כתריסר חנויות ברחבי העולם, רובם מתמקדים בעניינים בינלאומיים ובמזרח התיכון. הפעולה גם יצרה קבוצות של הערות במדיה החברתית, אם כי OpenAI אמרה שהן גררו מעט מעורבות אמיתית - וציינו שהמפעילים השתמשו בחישוב מטעה בדיווחים הפנימיים שלהם כדי לנפח את ההשפעה הנראית לעין של המדיה החברתית. מהחברה נמסר כי הפעילות נראית עקבית עם שחקן מסחרי שמנהל קמפיין השפעה להשכרה, וכי היא שיתפה מידע עם הרשויות הרלוונטיות.

מלאכה ישנה, כלים חדשים

מה שהכי מפתיע את החוקרים, כתב OpenAI, הוא עד כמה שתי הפעולות דומות לקמפיינים של השפעה מתקופת טרום-AI. הפרסונות המזויפות של העיתונאים דומות במשפחה ל"אליס דונובן", כתבת פיקטיבית מול המודיעין הצבאי הרוסי שמאמריו הופיעו בכלי התקשורת במערב ב-2016 וב-2017. הצוות המקומי של ה-SRC מבלי משים הדהד את "PeaceData", אתר החדשות המזויפות ששיתף פעולה עם עיתונאים אמיתיים.

בינה מלאכותית לא המציאה את הטכניקות האלה - היא הפכה אותן לזולות יותר, מהירות יותר וקולחות יותר. מפעילים השתמשו במודלים כדי להתאים זיופים לאוצר המילים המקומי ולסגנון המוסדי, לתרגם תסריטים לגרסאות ספרדיות אזוריות ולהפיק מיילים מלוטשים לעורכים. אבל OpenAI טענה שהאופי הסמוי, מאדם לאדם, של פעולות חזית כוזב הופך אותן גם לפגיעות לחשיפה: גם אליס דונובן וגם PeaceData נסגרות לאחר שנקראו בפומבי.

קריאת הראיות בזהירות

OpenAI הקפידה להסתיר את הממצאים שלה. המפעילים תבעו באופן שגרתי קרדיט על אירועים שלא היה להם שום קשר אליהם, וכמה זיופים שהם דיווחו על שתילה לא נמצאו במקורות פתוחים. מה ש-OpenAI יכלה לאמת - באמצעות בדיקות עובדות, הכחשות רשמיות ומאמרים שפורסמו התואמים את תיאורי המפעילים - מעיד על חדירה אמיתית של שיח תקשורתי ופוליטי בלפחות ארבע מדינות.

עבור תעשיית הבינה המלאכותית, הדו"ח הוא תזכורת לכך שהשימושים היעילים ביותר במודלים בדיסאינפורמציה הם לרוב השימושים הפחות גלויים: ניסוח דוחות פנימיים, חידוד פיצ'רים, ליטוש תרגומים. הישויות המוצבות בצורה הטובה ביותר לזהות את הקמפיינים הללו, כפי שהראו מקרים קודמים של OpenAI, הן לרוב הפלטפורמות שהכלים שלהן משמשים להפעלתם.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →