צבא ארצות הברית התקרב לעימות ישיר עם סין מכפי שכמעט כל אחד הבין באביב הזה - ולפי בלעדי של CNN שפורסם ביום שישי, הזיה בינה מלאכותית הייתה הסיבה לכך.
הדו"ח מפרט כיצד מסמך מודיעיני שהופק בעזרת צ'אט בוט הוביל לשרשרת אירועים שחימשו אנשי ארה"ב שהתכוננו לעלות על ספינה סינית במזרח התיכון, מתוך אמונה שהספינה הובילה רכיבים של תוכנית נשק גרעיני. כלי טיס צבאיים כבר היו באוויר, לפי מקורות הבקיאים במבצע. For more context on this story, see our ongoing latest AI developments.
המשימה בוטלה רק רגע לפני היירוט המתוכנן, כאשר גורמים רשמיים התעמקו בדו"ח וגילו שהטענה המרכזית שלה - זו שגייסה את צבא ארה"ב - שגויה.
מקור אחד שמכיר את הפרק תיאר את דיווח המודיעין ל-CNN כ"שקרי לחלוטין". זה גם, אמר המקור, "כמעט התחיל במלחמה". כל פעולה אמריקאית נגד כלי שיט סינית עלולה הייתה להתפתח לסכסוך מזוין בין שתי המדינות.
איך טענה של צ'טבוט הפכה למבצע צבאי
הפרק החל באביב הזה, על רקע המלחמה עם איראן, כאשר דיווח מודיעיני החל להסתובב ברחבי צבא ארה"ב. המסמך טען כי ספינה סינית במזרח התיכון נושאת רכיבים של תוכנית נשק גרעיני, והיא הפעילה מיד פעמוני אזעקה.
לפי CNN, הדו"ח הורכב על ידי אנליסט במפקדת המבצעים המיוחדים של ארה"ב ששאל צ'אטבוט לגבי דיווח מודיעיני על מניפסט הספינה - דיווח שמקורו במפקדת המבצעים המיוחדים של ארה"ב פסיפיק, שבסיסה בהוואי. עדיין לא ברור אם הצ'אטבוט היה מוצר זמין מסחרית או כלי של ממשלת ארה"ב. פקיד אמריקאי בכיר לשעבר, המכיר את מערכות הבינה המלאכותית המשמשות אנליסטים של צבא ומודיעין, הציע ל-CNN הערכה בוטה של ההצעות הפנימיות של הממשלה: "הכלים הפנימיים הם לרוב רק עותקים של החומר המסחרי שלובש שפתון".
הצ'טבוט איחד מודיעין קוד פתוח עם מודיעין אותות סודי שבידי הממשלה והגיע למסקנה הגורלית לגבי מטען הספינה. לאחר מכן, האנליסט השתמש ב-AI בפעם השנייה כדי לארוז את הממצאים לדוח מודיעיני סטנדרטי - מה שפקידי צבא רגילים לסמוך עליו - והפיץ אותו.
ארבעה מקורות שמכירים את הפרק דיברו עם CNN. לטענת שניים מהם, חברים חמושים בצבא ארה"ב התכוננו לעלות על הספינה כשהדיווח התפרק. CNN לא הצליחה ללמוד מה בעצם היה המטען שזוהה בטעות. פיקוד המבצעים המיוחדים של ארה"ב פסיפיק והפנטגון לא הגיבו לבקשת CNN להגיב.
אסטרטגיית האצה עומדת בבדיקת מציאות
הכמעט-החמצה נוחתת ברגע שבו הפנטגון דוחף לשזור בינה מלאכותית כמעט בכל היבט של עבודתו - ניתוח כמויות עצומות של מודיעין גולמי, בחירת יעדים לשביתות וטיפול במשימות ארציות יותר כמו תקציב, לוגיסטיקה ושרשרת אספקה.
בינואר, שר ההגנה פיט הגסת' פרסם את "אסטרטגיית האצת הבינה המלאכותית" של המחלקה, הצעה להאיץ את אימוץ הבינה המלאכותית הצבאית.
"נשחרר ניסויים, נבטל מחסומים בירוקרטיים, נמקד את ההשקעות שלנו ונדגים את גישת הביצוע הדרושה כדי להבטיח שאנו מובילים ב-AI צבאי", אמר הגסת בנאום שהכריז על האסטרטגיה.
התזכיר הנלווה מרחיק לכת, והורה למחלקה להפוך את AI לזמינה באמצעות מספר תוכניות במטרה "לדמוקרטיזציה של ניסוי AI והטרנספורמציה ברחבי המחלקה על ידי הנחת דגמי ה-AI המובילים בעולם של אמריקה ישירות בידי שלושת מיליון אנשי האזרחים והצבא שלנו, בכל רמות הסיווג".
אבל המאמץ מבוזר, אמרו גורמים אמריקאים רבים ל-CNN, כאשר חלקים שונים בממשלה משתמשים בכלים שונים תחת פקודות ותקני בטיחות שונים. אין מערכת תקנים אחת לאימות מידע שנוצר על ידי כלים אלו, ואמינות המערכות השונות משתנה מאוד.
מיקוד הוא המקום שבו חי הסיכון
אנליסטים חששו זה מכבר שבינה מלאכותית עלולה לתרום לחישוב שגוי קטסטרופלי אם מדינות לאום יפעלו לפי נתונים גרועים או מושחתים. פרק הספינה הסינית הוא מקרה מתועד של בדיוק אותו מצב כשל שנוצר בזמן אמת - ושל אמצעי ההגנה שלא הצליחו לתפוס אותו עד הרגע האחרון.
"AI במיקוד הוא בהחלט משהו שהולך ומתגבר, ואין הנחיה אמיתית כיצד קיום בן אדם במעגל ימנע נפגעים אזרחיים או רצח אחים", אמר מקור אחר שמכיר את המדיניות הנוכחית של הצבא ל-CNN.
על פי הדיווח של CNN, סוג ההזיה שיצר את הטענה השקרית לא היה תקרית בודדת ברחבי קהילת המודיעין מאז החלו כלים של AI להתפשט דרך הממשלה. מספר מקורות הצביעו גם על סיכון תרבותי: אנליטיקאים צעירים יותר, המתוארים כילידים של הכלים הללו, נוטים יותר לבטוח בהם ללא ביקורת, והלחץ לייצר אינטליגנציה מהר יותר משאיר יותר מקום לטעויות.
"AI מאפשר לך להגיע לרעיון רע מהר יותר", אמר מקור אחד.
סיכון מיידי יותר מאשר מודיעין על
במשך שבועות, וושינגטון אכולה בוויכוח על סיכון בינה מלאכותית לטווח ארוך, בעקבות סדרה של אזהרות פומביות קשות של מהנדסים ומנהלי טכנולוגיה בעמק הסיליקון לגבי מערכות שעלולות להשתחרר ממגבלות אנושיות. הדיווח של CNN מדגיש סכנה אחרת ומידית יותר: בני אדם מקבלים החלטות הרות אסון על סמך פלט AI לא מדויק או מטעה - כרגע, באמצע מתחים גיאופוליטיים אמיתיים.
לא נורו יריות באביב הזה, והעלייה לא התרחשה מעולם. אבל הפרק הוא הדוגמה המובהקת ביותר עד כה לכך ששגיאות שנוצרו על ידי מכונה, לאחר שהן מכובסות לדיווח רשמי, יכולות לעבור דרך המנגנון הצבאי החזק ביותר בעולם עד לקצה הסכסוך המזוין בין מעצמות גרעיניות - ללא תקן אימות קבוע שיעצור את המנגנון הבא.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
