טנק החשיבה המזויף בארה"ב שנחשף לראשונה בשבוע שעבר, הוכמת כעת על ידי ה-Guardian: 124 דיווחים ו-560,000 מילים בתשעה ימים, שנבנו על פלטפורמה מסחרית שמבטיחה לייעל את התוכן כך שצ'אטבוטים של AI יציטו אותו - עם מסלול מימון ממשלתי ישראלי שתועד במסמכים של משרד המשפטים האמריקאי. זוהי הדוגמה הציבורית המובהקת ביותר עד כה של שחקנים הקשורים למדינה המכוונים לשכבת התשובה של AI עצמה: לא קוראים, אלא המודלים שמדברים יותר ויותר בעדם. It is the kind of story our AI industry coverage tracks as chatbot manipulation goes industrial. (סיקרנו את הגילוי הראשוני של האתר כאן.)

צוות חשיבה שלא קיים

האתר מפרסם בשם מכון הנובר למדיניות ציבורית. לפי ג'ייסון ווילסון של ה-Guardian, המכון כנראה אינו קיים כישות משפטית בשום תחום שיפוט, אין לו כתובת פיזית, ואין לו צוות בעל שם וללא כותרות על אף אחד מהדוחות שלו. תנאי השימוש שלו כפופים לחוקי "המדינה בה מוקם המכון" - מדינה שהמסמך מסרב למנות.

היקף התפוקה היה תעשייתי. בין ה-6 באוגוסט ל-14 באוגוסט פרסם מכון הנובר 124 דוחות הכוללים יותר מ-560,000 מילים, ממוצע של כ-4,500 מילים כל אחת. רק ב-12 וב-13 באוגוסט היא הפיקה 73 דוחות בהיקף של כמעט 354,000 מילים. דבר לא פורסם מאז הופיעו הדיווחים הראשונים בתקשורת על האתר.

תוכנן עבור שכבת התשובה של הצ'אטבוט

What marks the operation as novel is its targeting. כל 124 הכותרות מלבד אחת נפתחות בשאלה הדומה לשאלה שמשתמש עשוי להקליד בצ'אטבוט - "האם אנטי-ציונות היא אנטישמיות?", "האם ישראל גירשה פלסטינים מארצם?", "האם ישראל מבצעת רצח עם בעזה?" הדוחות מציגים את עמדתה של ישראל לגבי עינויים של אסירים פלסטינים, פשעי מלחמה והרעבה בעזה כמחקר ניטרלי, המתוכנן לאחזור מכונות.

The mechanics are documented in official filings. חברת הפקת המדיה הניו יורקית Piro Inc רשמה החודש את האתר במשרד המשפטים האמריקאי במסגרת חוק רישום הסוכנים הזרים (Fara), חוק משנת 1938 המחייב חשיפה של עבודה עבור ממשלות זרות, כחומר שהיא מפיצה עבור ממשלת ישראל. הגרדיאן מדווח שהמאמץ ממומן בעשרות מיליוני דולרים מממשלת ישראל, המנותבים דרך צדדים שלישיים כולל קבוצת הפרסום האירופית Havas Media. חוזה בין Havas לחברה אמריקאית אחרת שעובדת על הקמפיין מחייב אותה ל"פריסה של אתרים ותוכן כדי לספק תוצאות מסגור GPT בשיחות GPT".

לאחר שדווח לראשונה על קיומו של האתר ב-14 באוגוסט, הוסיף המכון בשקט דף מימון ובו תיקון מובהק: "בגרסה קודמת של הדף הזה נאמר שהמכון פעל ללא מימון חיצוני, וזה היה נכון כשזה נכתב". הגרדיאן יצר קשר עם Piro Inc, Havas Media ומשרד הפרסום הממשלתי הישראלי LaPam לצורך תגובה.

Why chatbots are the new battlefield

לאסטרטגיה יש שם בתעשיית השיווק - אופטימיזציה למנועי יצירתי, או GEO - והיא הדיסציפלינה היורשת של אופטימיזציה למנועי חיפוש. כאשר צ'אט בוט עונה על שאלה, הוא מסתמך על קורפוס ההדרכה ומקורות האחזור שלו. סביר יותר שתוכן עשיר, מעוצב בשאלות ומעוצב כמחקר סמכותי יופיע, מצוטט או ייקלט בתשובה של מודל. טנק חשיבה מזויף הוא כמעט חפץ GEO האידיאלי: אמינות מוסדית ללא מוסד.

העיתוי משקף ייאוש לא פחות מאשר תחכום. ה"גרדיאן" מציין שהקמפיין מגיע כאשר מעמדה של ישראל בדעת הקהל בארה"ב קרס, וכאשר גורמים ישראלים מתדרכים כלי תקשורת שהכסף שהוצא על דיפלומטיה ציבורית של "ההסברה" מעבר לים התבזבז.

מכון הנובר אינו מקרה בודד. באותו יום שפרסם ה-Guardian את החקירה שלו, OpenAI הודיעה שהיא שיבשה מסע השפעה רוסי סמוי חדש באמצעות AI - האחרונה בסדרת ההסרות שהחברה ייחסה לשחקנים הקשורים למדינה. שתי פעולות נפרדות, שתי יבשות, תובנה אחת משותפת: השפעה על מודלים היא כעת זולה ועמידה יותר מאשר השפעה ישירה על אנשים.

פער הממשל

עבור הרגולטורים, התיק חושף חור במסגרות קיימות. חשיפת פארה תפסה את הפעולה על הנייר, אך רק לאחר שהתוכן היה חי ועלול להיבלע. הוראות השקיפות של חוק ה-AI של האיחוד האירופי והמסגרות הוולונטריות המסדירות את מקור נתוני ההכשרה לא נועדו לעולם שבו הדרך הזולה ביותר לאמונות של אוכלוסייה עוברת דרך הצ'אטבוטים שלה.

עבור מעבדות בינה מלאכותית, השאלה התפעולית היא מיידית: כיצד מערכות אחזור וצינורות אימון מבדילים בין מחקר לחוות תוכן הלובשות בגדי מחקר? נפח, עיצוב וציטוטים בטוחים - האותות של סמכות - הם בדיוק מה שמכון הנובר ייצר המוני. עד שהדוגמניות ישתפרו במקור, חצי מיליון המילים כבר נמצאות שם, ושום גילוי שהוגש לאחר מעשה לא מזכיר אותן.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →