OpenAI אמרה ביום חמישי שהיא שיבשה פעולת השפעה הקשורה לאיראן שהשתמשה ב-ChatGPT כדי להציב כמעט 100 מאמרים שנוצרו על ידי בינה מלאכותית מתחת לכותרות עיתונאיות מערביות מזויפות בפרסומים אמיתיים ברחבי העולם, כולל כמה ערוצי ארצות הברית.

הקמפיין, ש-OpenAI מכנה מבצע "חזית כוזבת", מפורט בדו"ח שהחברה פרסמה ב-8 באוקטובר ובדיווחי המשך של הוושינגטון פוסט, CNN, NPR ו-Radio Free Europe/Radio Liberty. זהו אחד המקרים המתועדים ביותר עד כה של רשת השפעה זרה שמשתמשת בצ'אטבוט מסחרי מיינסטרים לא רק כדי לנסח תעמולה, אלא כדי לנהל את זרימת העבודה העריכה המלאה של נטיעתו במדיה לגיטימית. For more context on this story, see our ongoing more AI stories.

עיתונאי שלא היה קיים מעולם

במרכז המבצע עמדה פרסונה בשם ארווין ב. הוסקינס, שהוצגה כעיתונאית עצמאית אמריקאית. לפי RFE/RL, מאמרים המיוחסים להוסקינס מצביעים על ארה"ב כתוקפן בסכסוך המתמשך עם איראן, הציגו את ישראל כבעלת ברית לא אמינה, והטילו את איראן כאנדרדוג מתריס. הוסקינס, כך אישר OpenAI, מעולם לא היה קיים.

הוא היה אחד משבע פרסונות עיתונאיות מפוברקות, כולן מתיימרות להיות ממדינות מערביות, שמפעילים נהגו להעלות ולהציב מאמרים. "זיהינו כמעט 100 מאמרים שפורסמו או חולקו בסינדיקציה תחת קווי הכותרת של המבצע על פני כתריסר חנויות מקוונות ברחבי העולם", אמרה OpenAI בדו"ח שלה, שתיארה את היעדים כחנויות קטנות עד בינוניות המתמקדות בדרך כלל בעניינים בינלאומיים, גיאופוליטיקה והמזרח התיכון.

ה"וושינגטון פוסט", שדיווח לראשונה על חדירת הקמפיין לתקשורת בארה"ב, גילה כי שבועון קטן בפלורידה פרסם את אחד המאמרים המזויפים. מיקומים אחרים המסומנים הופיעו בשקעים כולל Middle East Monitor, שאמר ל-CNN כי הסיר את המאמרים המדוברים ובוחן את תהליך הגשתו.

כיצד נעשה שימוש ב-ChatGPT

לפי החשיפה של OpenAI, המפעילים השתמשו ב-ChatGPT הן בפרסית והן באנגלית בכל צינור המיקומים: עריכת טיוטות מאמרים ארוכות, התאמת הצעות לדרישות העריכה של פרסומים בודדים, הכנת מיילים לעורכים ויצירת קבוצות של הערות במדיה החברתית שנועדו להיראות כמו תגובות קוראים עצמאיים.

דוגמה אחת שאותרו חוקרים: מאמר מאמר שכותרתו "ג'ארד קושנר והפרטת אסטרטגיית איראן של אמריקה", שפורסם ב-12 ביוני על ידי PeaceVoice, שירות הפצה מאמר המנוהל על ידי מכון השלום של אורגון. בימים הבאים אותו מאמר פורסם מחדש על ידי CounterPunch ו-LA Progressive, לפי RFE/RL.

OpenAI מסרה כי פעילות הפרסום עלתה לאחר שהסכסוך בין ארצות הברית לאיראן החל מוקדם יותר השנה. החברה אמרה שהיא אסרה את חשבונות ChatGPT המעורבים בקמפיין ודירגה את יכולת המבצע להציב תוכן בערוצי עריכה חיצוניים כקטגוריה 4 בסולם ההשפעה של שש נקודות, לפי דיווח CNN.

ייחוס נשאר פתוח

יש לציין כי OpenAI אמרה שהיא לא יכולה לזהות את השחקן הספציפי שעומד מאחורי הקמפיין או לאשר את ההכוונה של ממשלת איראן. ההערכה שלה, כפי שדווח על ידי CNN, הצביעה על מבצע מסחרי, להשכרה, ולא על מבצע בניהול ממשלתי ישירות - מבנה שהופך את הייחוס לקשה יותר ואת ההפרעה לפחות מכרעת. איסור החשבונות שיבש את מה ש-OpenAI יכלה לראות; היא לא קבעה שהרשת הרחבה יותר פורקה.

ג'סיקה ברנדט, שהובילה את משרד מנהל המודיעין הלאומי של מרכז ההשפעה הממאירה הזר בין 2023 ל-2025, אמרה ל-CNN שהמבצע הראה כיצד בינה מלאכותית עוזרת לשחקנים זרים להסתיר את מעורבותם ולנתב הודעות בערוצים אותנטיים.

הקמפיין האיראני לא היה הפעילות היחידה ש-OpenAI סימנה. הדו"ח של החברה כיסה גם שיבוש של פעולות השפעה הקשורות לרוסית שהשתמשו ב-ChatGPT, כפי שדיווח The Record מ-Recorded Future News. בנפרד, RFE/RL ציין כי אנתרופיק שיבשה בעבר את המאמצים האיראניים להשתמש לרעה במודלים של קלוד לתעמולה ומעקב אחר מתנגדי משטר.

הפרסום אינו עוד הוכחת מחבר

עבור חדרי חדשות, המקרה נוחת על אמת לא נוחה: כותרת ראשית, פעימה קוהרנטית, ביוגרפיה מתקבלת על הדעת ופיצ'ר מהוקצע כבר לא מרמזים על קיים תורם. עורכים המסתמכים על הצעות פרילנסר - במיוחד שולחנות מאמר ופרשנות, שבעיצובם מפרסמים נקודות מבט חיצוניות - מתמודדים כעת עם בעיית אימות שמסנני דואר זבל והיוריסטיקה באיכות כתיבה לא יכולים לפתור.

תגובות מעשיות שסומנו בסיקור הדו"ח כוללות אימות תורמים חזק יותר, היסטוריית הצעות פרסום מתועדות, בדיקה של קווי ביניים המופיעים על פני מספר שקעים בחלונות קצרים, וכלי מוצא הקושרים את ההגשות לזהויות הניתנות לאימות.

גם הכלכלה חשובה. מבצע שפעם דרש צוות סופרים יכול כעת להיות מנוהל על ידי צוות קטן המנהל צ'אט בוט, כאשר המודל מטפל בכל דבר, החל מתרגום ועד התאמת טון לסגנון הבית של פרסום יעד. הדו"ח של OpenAI מצביע על כך שהמחסום בפני הפעלת מסע פרסום רב-אישיות, מרובה נקודות מכירה, ירד לנקודה שבה חנות להשכרה יכולה לעשות זאת כשירות מסחרי.

אף אחד מהשקעים ששמו בדיווח לא היה ארגוני חדשות מרכזיים, אבל כמה מהם נשאו קהל אמיתי. זו הנקודה, אומרים החוקרים: מיקום בכל פרסום אמין מעביר מסר לתפוצה רחבה יותר באמצעות סינדיקציה, צבירה וחיפוש - וזה בדיוק מה שהקמפיין השיג לפני שיבושו.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →