צבא ארה"ב התקרב בצורה מסוכנת ליירט כלי שיט סינית בהתבסס על דו"ח מודיעיני שהופק בעזרת צ'טבוט AI והתברר כשקרי לחלוטין, על פי הודעה בלעדית של CNN שפורסם ביום חמישי.
הפרק, שתואר ל-CNN על ידי ארבעה מקורות הבקיאים בעניין, החל מוקדם יותר האביב - בעיצומה של המלחמה עם איראן - כאשר דיווח הופץ ברחבי צבא ארה"ב וטען כי ספינה סינית במזרח התיכון מעבירה רכיבים של תוכנית נשק גרעיני. הדיווח הפעיל מיד פעמוני אזעקה, והצבא פתח לפעולה עם תוכניות ליירט את כלי השיט. לסיקור קבוע של סיפורים כמו זה, עקוב אחר חדשות AI תוך כדי התפתחותה.
מטוסים באוויר, מסיבת עלייה מוכנה
לפי שניים ממקורות CNN, חמושים בצבא האמריקני התכוננו לעלות על הספינה. מטוסים צבאיים כבר היו באוויר, אמר מקור אחד.
רק רגע לפני המבצע המתוכנן, התעמקו גורמים בדו"ח - שהרכיב מנתח פיקוד מבצעים מיוחד - וגילו שהוא נוצר בעזרת בינה מלאכותית, וכי הצ'טבוט שבו השתמש האנליסט זיהה בצורה לא מדויקת את החומר שהספינה נושאת. CNN דיווחה שהיא לא הצליחה ללמוד מהו המטען שזוהה בטעות.
מקור אחד הגדיר את הדיווח כ"שקרי לחלוטין". זה גם, אמר המקור, "כמעט התחיל במלחמה" - שכן כל מבצע אמריקאי נגד כלי שיט סינית יכול היה להסתכן בפיתול לסכסוך מזוין בין שתי המדינות.
כיצד נבנה הדיווח השקרי
האנליסט שאל צ'טבוט לגבי דיווח מודיעיני על מניפסט הספינה שמקורו במפקדת המבצעים המיוחדים של ארה"ב פסיפיק, שבסיסה בהוואי. CNN דיווחה שלא ברור אם הצ'אטבוט הוא מוצר זמין מסחרית או כלי של ממשלת ארה"ב.
הבוט איחד מודיעין קוד פתוח עם מודיעין איתותים סודיים באחזקות ממשלתיות והגיע למסקנה הגורלית לגבי החומר על סיפון הספינה. לאחר מכן, האנליסט השתמש בבינה מלאכותית בפעם השנייה - כדי לארוז את הממצאים לדוח מודיעיני סטנדרטי, מהסוג שאמון על פקידי צבא - והפיץ אותו ברחבי המערכת.
פיקוד המבצעים המיוחדים של ארה"ב פסיפיק והפנטגון לא הגיבו לבקשת CNN להגיב.
מירוץ צבאי לאימוץ בינה מלאכותית
הכמעט-החמצה נוחתת ברגע שבו גורמים רשמיים בכל רחבי הצבא והמודיעין האמריקאי דוחפים לשזור בינה מלאכותית כמעט בכל היבט של עבודתם - מניתוח כמויות עצומות של מודיעין גולמי ובחירת יעדים לשביתות, ועד ליישומים ארציים כמו תקציב, לוגיסטיקה ושרשרת אספקה.
בינואר פרסם שר ההגנה פיט הגסת' את "אסטרטגיית האצת הבינה המלאכותית" של המחלקה, שנועדה לזרז את אימוץ הבינה המלאכותית של הצבא. "נשחרר ניסויים, נבטל מחסומים בירוקרטיים, נמקד את ההשקעות שלנו ונדגים את גישת הביצוע הדרושה כדי להבטיח שאנו מובילים ב-AI צבאי", אמר הגסת בנאום שהכריז על האסטרטגיה.
האסטרטגיה קוראת במפורש לדמוקרטיזציה של הגישה, ומצווה על המחלקה לשים את "דגמי הבינה המלאכותית המובילים של אמריקה ישירות בידיהם של שלושת מיליון אנשי הצוות האזרחיים והצבאיים שלנו, בכל רמות הסיווג".
אין מערכת כללים אחת
אבל המאמץ מבוזר, אמרו גורמים אמריקאים רבים ל-CNN, כאשר חלקים שונים בממשלה משתמשים בכלים שונים תחת פקודות ותקני בטיחות שונים. אין מערכת אחת של סטנדרטים לאופן שבו ארה"ב מאמתת מידע שנוצר על ידי הכלים הללו, והאמינות של המערכות השונות משתנה מאוד.
"הכלים הפנימיים הם לרוב רק עותקים של החומר המסחרי לבוש שפתון", אמר ל-CNN בכיר אמריקאי לשעבר, המכיר את מערכות הבינה המלאכותית המשמשות אנליסטים של צבא ומודיעין.
מיקוד בינה מלאכותית 'מתגבר' עם מעט הדרכה
מקורות אמרו כי הצבא פונה במהירות לבינה מלאכותית כדי לסייע במיקוד - אזור הנושא סיכון ברור לטעויות קטלניות. "בינה מלאכותית במיקוד היא בהחלט משהו שהולך ומתגבר ואין הנחיה אמיתית כיצד קיום בן אדם במעגל ימנע קורבנות אזרחים או רצח אחים", אמר מקור אחר שמכיר את המדיניות הנוכחית של הצבא ל-CNN.
אנליסטים מזהירים זה מכבר שבינה מלאכותית עלולה לתרום לחישוב שגוי קטסטרופלי אם מדינות לאום יסתמכו על נתונים גרועים או מושחתים - בדיוק מסוג החישובים השגויים שיכול היה להוביל את ארצות הברית לירות על ספינה סינית על סמך מידע לא מדויק.
לפי CNN, סוג ההזיה שמאחורי דיווח הספינה הכוזב לא היה תקרית בודדת ברחבי קהילת המודיעין מאז שהכלים הללו החלו להתרבות דרך הממשלה.
'AI מאפשר לך להגיע לרעיון רע מהר יותר'
במשך שבועות, קובעי המדיניות בוושינגטון דנים באינטנסיביות בינה מלאכותית בעקבות סדרה של אזהרות קשות מעמק הסיליקון לגבי האפשרות שבינה מלאכותית יכולה להשתחרר ממגבלות אנושיות. אבל פרק הספינה הסינית מדגיש סיכון אחר ומיידי יותר: בני אדם מקבלים החלטות הרות אסון על סמך מידע לא מדויק או מטעה שנוצר על ידי מערכות בינה מלאכותית.
מספר מקורות אמרו ל-CNN כי בפרט אנליסטים צעירים יותר - ילידי הכלים הללו - נוטים יותר לבטוח בהם ללא ביקורת, וכי בינה מלאכותית הגבירה את הלחץ על אנליסטים לייצר ולהפיץ מודיעין מהר יותר, ופתחה את הדלת לטעויות.
"AI מאפשר לך להגיע לרעיון רע מהר יותר", אמר אחד המקורות.
הפרק עשוי לעורר ויכוח סוער ממילא על כמה מהר צריך צבא ארה"ב לקפל את הבינה המלאכותית לתוך זרימות העבודה הרגישות ביותר שלו, ואילו שלבי אימות צריכים להיות חובה לפני שדיווח בסיוע בינה מלאכותית יכול להזיז חיילים, מטוסים וצוותים חמושים לעבר מבצע קרבי אפשרי. לעת עתה, הפרטים מראים כי אמצעי ההגנה הקיימים הם מעשה טלאי - וכי במקרה הזה, ההבדל בין דו"ח מודיעיני שגרתי לתקרית בינלאומית הסתכם בגורמים שבמקרה בדקו פעמיים.
הישאר לפני AI
לדיווח נוסף על מדיניות AI, ביטחון לאומי והמודלים המעצבים את שניהם, קרא עוד חדשות AI.
