סקירה של משרד ההגנה האמריקני הגיעה למסקנה כי הסתמכות יתר על בינה מלאכותית תרמה לפגיעת טילים במרץ על בית ספר באיראן, שעל פי הדיווחים נהרגו כ-120 ילדים, על פי ממצאי הסקירה כפי שדווחו על ידי בלומברג ביום שני וסוכמו על ידי חדשות יאהו וגורמים אחרים.
הממצא הוא הפעם הראשונה שהפנטגון מייחס רשמית תוצאת קרב קטלנית בין היתר להסתמכות על מערכת AI, והוא נוחת באמצע ויכוח מתגבר על כמה סמכות הכוונת הצבא האמריקאי צריך להאציל לשיפוט מכונה. לדיווחים נוספים כמו זה, עיין בסיקור האתיקה של AI שלנו.
מה קרה במרץ
התקיפה התרחשה בתחילת מרץ 2026, כאשר ניתוח וידאו שפורסם על ידי Bellingcat ואומת על ידי NPR ו-BBC הראה טיל שיוט אמריקאי Tomahawk פוגע ליד בית ספר לבנות בעיר למרד שבאיראן. בתוך ימים, דיווח ה"ניו יורק טיימס" כי חקירה ראשונית בארה"ב מצאה שהתקיפה היא תוצאה של טיל אמריקאי, ומקורות איראנים מעריכים את מספר ההרוגים בעשרות, רובם ילדים.
סקירת הפנטגון החדשה, שתוארה בתחקיר של בלומברג שפורסמה ביום שני, מרחיקה לכת: על פי הדיווחים היא מתחקה אחר הכישלון במעלה צינור המיקוד ומגיעה למסקנה שהסתמכות יתר על AI תרמה לשביתה. Yahoo News סיכמה את הסקירה כקושרת מערכת מיקוד בינה מלאכותית לתקיפה שהרגה 120 ילדים איראנים; מספר חנויות זיהו את המערכת המדוברת כתוכנה שסופקה על ידי Palantir, אם כי הפנטגון לא אישר בפומבי את פרטי הספק.
בתוך ה- Kill Chain
הלוס אנג'לס טיימס, בתחקיר מקביל שפורסם ביום שני, איתר את מה שהוא כינה "שרשרת ההרג" האמריקאית שהרסה את בית הספר - רצף איסוף הנתונים, מועמדות מטרה בסיוע מכונה וסימן אנושי שהסתיים בשיגור טיל. הדיווח מדגיש מציאות לא נוחה של לוחמת דיוק מודרנית: הצוות שיורה טומהוק עלול לעולם לא לראות את המטרה כלל. הם מבצעים חבילת נתוני יעד שהורכבה במעלה הזרם, שבה כלים אלגוריתמיים מעצבים יותר ויותר את מה שמקבל מועמדות ואת מידת הביטחון של האנליסטים התומכים.
במילים אחרות, הממצא המרכזי של הסקירה - הסתמכות יתרה - אינו קשור לרובוט הלוחץ על ההדק. מדובר בבני אדם שסומכים על הפלט של מכונה כדי לדלג על הספקנות שהתהליך תוכנן לדרוש.
פיקוח שפורק
ההקשר לכשל דווח לפני חודשים. פוליטיקו חשף במרץ שראש הפנטגון קיצץ משרדים שלא תרמו למטרות ה"קטלניות" שלו, כולל מרכז ההגנה האזרחית למצוינות, וכי צוותי צוותי הפחתת הפגיעה באזרחים ירדה בכ-90%, והצטמצמה לפחות מ-20 אנשים בסך הכל. ProPublica דיווחה כי צוות הנפגעים האזרחיים של פיקוד מרכז ירד מעשרה אנשים לאחד.
על רקע זה, ממצאי הסקירה נקראים פחות כמו באג תוכנה ויותר כמו כשל מערכות: כלי בינה מלאכותית ששגיאותיו לא היו מעורערות בתוך מנגנון מיקוד שרשתות הביטחון האנושיות שלו נחתכו עד העצם.
תבנית שהפנטגון כבר ידע עליה
התקיפה האיראנית לא הייתה כמעט החמצה מבודדת הקשורה לבינה מלאכותית בצבא האמריקני. דיווח נפרד של Gizmodo ו- Futurism תיעד תקרית שבה הצבא כמעט עלה - ואולי ירה על - כלי שיט סינית לאחר שמערכת בינה מלאכותית הזיה חומר של נשק גרעיני על גביה, טעות שעלולה הייתה לעורר הסלמה מעצמה גדולה. במקרה זה, התערבות אנושית מנעה אסון. באיראן לא התרחשה התערבות כזו.
חוקרי בינה מלאכותית וחוקרי אתיקה צבאית הזהירו במשך שנים שתפוקות מכונות המוזרקות להחלטות בעלות חשיבות גבוהה יוצרות הטיית אוטומציה - הנטייה האנושית המתועדת לתת אמון יתר במערכות בטוחות. הסקירה של הפנטגון עצמו עומדת כעת כהכרה רשמית בכך שהטיה זו תרמה לאחד מהאגרות האזרחיות הקטלניות ביותר במלחמה.
מה שיבוא אחר כך
הסקירה עשויה להגביר את הלחץ בוושינגטון לדרישות סטטוטוריות של אנושיות במעגל במיקוד המותאם בינה מלאכותית, במקביל לכך שהממשל דוחף להאיץ את אימוץ הבינה המלאכותית הצבאית. זה גם מסבך את הצעות המכירות של ספקי טכנולוגיה ביטחונית שמוצריהם מעורבים כעת בבדיקת תקלות רשמית - וזה נותן לקונגרס מחקר מקרה קונקרטי ומתועד לצטט בדיונים על מדיניות נשק אוטונומי.
שאלות רבות נותרו ללא מענה. סיכומי הסקירה שפורסמו עד כה אינם מציינים איזו גרסת דגם הייתה בשימוש, האם הכשל היה הזיה, סיווג שגוי של הבניין או נתוני קלט פגומים במעלה הזרם - הבחנות שחשובות מאוד לאופן שבו הצבא צריך להסדיר את כלי הבינה המלאכותית. כמו כן, לא ברור אם תפוקות המערכת נבדקו על ידי אנליסט כלשהו לפני גיבוש חבילת היעד.
דעת הקהל כבר סקפטית: סקר של רויטרס/איפסוס שפורסם השבוע מצא ש-73% מהאמריקאים טוענים שחברות בינה מלאכותית אינן עושות מספיק כדי למנוע תוצאות קטסטרופליות, והדאגה לגבי AI במערכות נשק עולה באופן עקבי על החשש לגבי AI צרכני. מה שקורה להמלצות הסקירה - והאם מישהו יישא באחריות - יאותת אם הממצא משנה את הנוהג או הופך לעוד דו"ח תקרית שהוגש ונשכח.
---
קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →
