צוות חשיבה מזויף שנוצר מטעם ממשלת ישראל פרסם יותר מ-100 דוחות מחקר מלוטשים תוך קצת יותר משבוע, במה שאנליסטים מתארים כקמפיין מכוון לתמרן התשובות שצ'אטבוטים של AI נותנים למשתמשים על ישראל ופלסטין, כך לפי תחקיר שפורסם ביום שני על ידי Responsible Statecraft.
הארגון, הנקרא מכון הנובר למדיניות ציבורית, מציג את עצמו כגוף מחקר חדש המתמקד בישראל/פלסטין. אבל הדיווחים שלה אינם נושאים קווי כותרת, וכתב ויתור בתחתית האתר שלו מאשר שהוא נוצר מטעם סוכנות הפרסום הממשלתית הישראלית על ידי פירו, אינק. הסיפור נאסף על ידי רשתות כולל חדשות הערב והעריסה, והוא הסימן האחרון לכך שפעולות ההשפעה עוברות מהזנות של מדיה חברתית למודלים של AI. למידע נוסף על האופן שבו המניפולציה מתפתחת בעידן הבינה המלאכותית, עקוב אחר הסיקור החדשותי של הבינה המלאכותית שלנו. For more context on this story, see our ongoing AI news.
דוחות מתוכננים לאופן שבו שופטים אנשי לימודים לימודיים באמינות
מה שהופך את מכון הנובר ליוצא דופן הוא האופן שבו בדיוק התפוקה שלו נראית מותאמת לאופן שבו מודלים שפות גדולים מעריכים מקורות. "דוחות הנתונים" שלה מגיעים עם הערות שוליים, תוכן עניינים וטון מדוד ונייטרלי - סוג העיצוב שעוזר למסמכים לפנות לצ'אטבוטים כמו קלוד או ג'מיני, כך דיווח Responsible Statecraft.
רבים מהכותרות מנוסחות כשאלות המדויקות שמשתמש עשוי להקליד בצ'אטבוט: "מה גרם לעקירת הפלסטינים ב-1948?" "אילו ארגונים הומניטריים תיעדו פשעי מלחמה ישראלים?" "מה המצב הנוכחי ברצועת עזה?" ו"האם צה"ל הוא הצבא המוסרי ביותר בעולם? - האחרון שבהם מצטט סקר משנת 2022 שמצא כי 47% מהיהודים הישראלים האמינו לתיאור הזה.
האתר של פירו עצמו בוטה לגבי השיטה. החברה טוענת שהיא כותבת "תוכן שהונדס לאופן שבו מנהלי LLM מעריכים אמינות", שירות שהיא משווקת כ"אופטימיזציה של סיפור AI". לחוקרים יש שם בוטה יותר לתרגול: "הרעלת LM".
'חיקוי מושלם' של מוסד אמין
אליס לי, אנליסטית ב-NewsGuard, חברת מעקב הדיס-אינפורמציה, אמרה ל-Responsible Statecraft כי נראה שהדיווחים של האתר נועדו להגיע לקהל אמריקאי שסקרן לגבי הסכסוך, בין אם באמצעות מנועי חיפוש או עוזרי בינה מלאכותית.
"אנשי LLM מעדיפים סטטיסטיקות ונתונים קונקרטיים, כמו גם ציטוטים ומקורות חזקים, שיש לכל המאמרים האלה", אמר לי. "זהו חיקוי מושלם של צוות חשיבה אמריקאי טיפוסי אמין, עד לשם הגנרי, פריסת האתר וערכת הצבעים האדום-לבן-כחול".
המכון גם פרסם את מה שלטענתו הם ממצאים מקוריים - למשל, מחקר שקבע כי 19 מתוך 36 סרטוני ההסבר הנצפים ביותר של ישראל-עזה מכילים טענות שנויות במחלוקת, כאשר רוב הטענות בהן הוגשו במחלוקת תואמות את הנרטיב הפלסטיני. דיווחים אחרים דוחים נגד תיעוד מבוסס, כולל כזה שמטיל ספק בקביעתו של יוניסף כי 90% מתשתיות המים והתשתיות המוסדיות בעזה נפגעו או נהרסו.
יש לציין שהתפוקה לא תמיד עוקבת אחר קו ממשלת ישראל. דו"ח אחד מתאר את התיאוריה לפיה מימון זר של אוניברסיטאות מסביר תקריות אנטישמיות כ"חלשות ומלאות חריגים" - למרות שראש הממשלה בנימין נתניהו קידם את התיאוריה הזו, ואמר לברייטברט ששחקנים זרים הוציאו "מיליארדים" בקמפוסים אמריקאים. דיווחים רבים מסתיימים בקישור הנושא הנדון לאנטישמיות הגואה, תוך ציטוט תכופות של אותם מחקרים.
עקוב אחר הכסף: 900,000 דולר דרך קונגלומרט יחסי ציבור צרפתי
לפי Responsible Statecraft, Piro, Inc. קיבלה 900,000 דולר מממשלת ישראל עבור עבודתה, בקבלנות משנה באמצעות Havas Media, קונגלומרט יחסי ציבור צרפתי - הסדר התואם את האופן שבו קיבלו קבלנים ישראלים אחרים עבור עבודות השפעה מעבר לים.
מכון האנובר החל לפרסם ב-6 באוגוסט. במשך כעשרה ימים שחלפו מאז, הוא הוציא יותר מ-100 דוחות, קצב שאף חנות פוליסות אמיתית בסדר גודל דומה לא עומדת בו.
מדוע מניפולציית צ'טבוט שונה
המקרה מדגיש חולשה מבנית באופן שבו עוזרי בינה מלאכותית מרכיבים תשובות: הם מתייחסים למסמכים שצוטטו היטב ועתירי סטטיסטיקה כאמינים ללא קשר למי הפיק אותם ולמה. דיסאינפורמציה מסורתית פנתה לקוראים אנושיים בפלטפורמות חברתיות, שם האגרוף הרגשי היה חשוב ביותר. מה שנקרא הרעלת LLM מכוונת במקום זאת לשכבות השליפה והדירוג שמחליטות אילו מקורות מצטט המודל - ומסמך משכנע יחיד יכול להדהד למיליוני תשובות.
עבור מפתחי צ'טבוטים, מכון האנובר הוא מבחן מאמץ של בדיקת מקור. ההערכה של NewsGuard מציעה שהחיקוי קרוב מספיק כדי להטעות אותות אמינות אוטומטיים. עבור הקוראים, הלקח פשוט יותר: התשובה הבטוחה והמוכרת היטב שצ'אטבוט נותן לך לגבי סכסוך שנוי במחלוקת עשויה להתחקות אחר ארגון שנבנה, מותג ומומן כדי לייצר בדיוק את התשובה הזו.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
