מינהל התעופה הפדרלי עצר כל טיסה מסחרית יוצאת בארצות הברית ביום שישי אחר הצהריים, והוציא עצירה קרקעית ארצית שתקעה נוסעים בשדות תעופה מחוף לחוף - והתזמון הפך כשל בתשתית לחקירה פדרלית בשאלה האם מערכת הבינה המלאכותית החדשה של הסוכנות שיחקה תפקיד.

ה-FAA הורה על עצירת הקרקע בערך בשעה 16:00. ET ב-13 בנובמבר, תוך ציטוט של "נסיבות יוצאות דופן" ו"סיבות בטיחות", לפי ה"ניו יורק פוסט". ההתראות המוקדמות סיפקו מעט פרטים, והסוכנות לא חיברה מיד את ההפרעה ל-SMART, מערכת התעבורה האווירית הנתמכת בבינה מלאכותית שהרחיבה לכל מרכזי הבקרה שלה רק שלושה ימים קודם לכן. להמשך הסיקור של הסיפור הזה ושל פיתוחי AI מרכזיים, אנו עוקבים אחר החקירה כשהיא מתפתחת.

מה קרה ביום שישי

ההפרעה הייתה גורפת. ההמראות הופסקו בכל שדה תעופה בארה"ב, צעד יוצא דופן שהמדינה לא ראתה מאז ינואר 2023, כאשר תקלה במערכת ה-FAA של הודעה למשימות אוויריות (NOTAM) קרקעה טיסות ברחבי הארץ. עד יום שישי בערב, ספירות של תעשיית התעופה שצוינו בכל נקודות מכירה מרכזיות הראו בערך 10,000 טיסות עיכוב וכ-4,700 בוטלו, וחברות תעופה הזהירו שההתאוששות תימשך עד סוף השבוע כשהצוותים יפגעו במגבלות שעות העבודה והמטוסים יצאו ממצבם.

ה-FAA האשימה בסופו של דבר את ההפסקה בסוגיית תקשורת. דיווחים של רויטרס והוושינגטון פוסט תיארו הפסקת תקשורת בתעבורה אווירית, ודיווחים שלאחר מכן הצביעו על הכשל הכרוך במערכות תדרי הרדיו שבהן משתמשים טייסים ובקרים כדי לתקשר. הייעוץ לעצירת קרקע היה רשום בתחילה עד השעה 23:30. ET, אם כי גורמים רשמיים הזהירו שחותמת הזמן אינה מועד חידוש מובטח. הסוכנות הסירה את העצירה מאוחר יותר ביום שישי בערב, אך לא לפני שהתקרית עוררה שאלות בדרגים הגבוהים ביותר של הממשלה.

מערכת ה-SMART יצאה לאוויר ימים קודם לכן

הסיבה לבדיקה היא עיתוי. ב-10 בנובמבר - שלושה ימים לפני העצירה הקרקעית - הרחיבה ה-FAA את SMART, קיצור של ניהול אסטרטגי של המרחב האווירי, הנתיבים והמסלולים, לכל 22 מרכזי בקרת התנועה בנתיב האוויר שלה, לפי הוושינגטון טיימס והניו יורק פוסט.

SMART פותחה במסגרת חוזה של 875 מיליון דולר ל-12 שנים שהוענק ל-Air Space Intelligence, קבלן ממשלתי. המערכת ממזגת כ-200 זרמי נתונים חיים - דפוסי מזג אוויר, נתיבי טיסה, זרימת תנועה, מדדי איוש בקרים ועוד - לפלטפורמה אחת שנועדה להעביר את ניהול התעבורה האווירית ממודל תגובתי למודל חיזוי. הוא מייצר המלצות ניתוב ותזמון שמומחי FAA בוושינגטון בודקים לפני שהם מעבירים אותן למרכז הפיקוד של מערכת בקרת התנועה האווירית בוורנטון, וירג'יניה; ההנהגה בכל מתקן מקומי מחליטה אם לקבל או לדחות כל הצעה.

באופן מכריע, ה-FAA היה מפורש ש-SMART הוא רובד מייעץ, לא אחד אוטונומי. הסוכנות הצהירה כי המערכת אינה יכולה להחליף בקרים אנושיים ואינה יכולה להשתלט על מטוס. אבל הפלטפורמה אכן יושבת בצומת של נפח עצום של נתונים תפעוליים חיים - והצומת הזה הוא בדיוק המקום שבו החוקרים מחפשים כעת.

החוקרים לא ישלולו את הבינה המלאכותית

כשכתב שאל את השר לביטחון המולדת, מרקוויין מולין, ביום שישי בערב, האם כלי הבינה המלאכותית החדש של ה-FAA יכול היה לתרום לכשל התקשורתי, תשובתו הייתה לא מתחייבת בזהירות.

"אנחנו בוחנים את זה," אמר מולין, בהתייחס ישירות למערכת SMART. כאשר הכתב השתמש במונח "AI", ציין מולין כי הממשל קורא כעת רשמית לטכנולוגיה "Super Intelligence", או SI, תחת צו ביצוע מספטמבר - לפני שהוסיף: "אי אפשר לשלול שום דבר בשלב זה".

מולין ביקש במקביל להרגיע את החששות מהגורם, ואמר לכתבים "זו רק הפסקת תקשורת" וכי אין עדיין אינדיקציה ל"מתקפה מרושעת", לפי חדשות ABC. הוא גם לא ראה שום קשר ברור בין הפסקת הקרקע לבין ההפסקה הנפרדת של Microsoft 365 שהחלה יום קודם לכן, לפי GeekWire.

החברה שמאחורי SMART עברה במהירות להרחיק את המוצר שלה מהשיבוש. "העצירה הקרקעית הנוכחית אינה מבוססת או תוצאה של מערכת SMART, כל תוצר של ASI או האינטגרציה שלנו עם FAA ו-ATC", אמר מודיעין החלל האווירי בהצהרה שפורסמה ל-X.

לא כולם מתייחסים לתזמון כצירוף מקרים. "אני לא יודע אם הם קשורים", אמרה המפקחת הכללית לשעבר של משרד התחבורה, מרי שיאבו ב-CNN. "אבל זה פשוט יותר מדי צירוף מקרים שהם ניסו להתחיל את התנועה הזו היום - ועכשיו יש לנו בעיות עם המערכת".

בקרים סומנו דאגות לפני שבועות

אירועי יום שישי נחתו עם משקל נוסף מכיוון שכוח העבודה האווירי כבר העלה אזעקות לגבי SMART בכתב. באוקטובר, יותר משני תריסר מחוקקים כתבו לשר התחבורה שון דאפי ולמנהל ה-FAA בריאן בדפורד, והעבירו את החששות של בקרי התנועה האווירית לגבי הפריסה. במכתב זה, כפי שדווח ב-Latin Times, נכתב כי "לכוח העבודה הקדמי של הבטיחות בתעופה של המדינה לא הייתה ככל הנראה השקעה מועטה או לא בפיתוח של SMART וקיבלו הכשרה ומידע מוגבלים במהלך תהליך הפריסה הנוכחי".

הבקרים הזהירו במפורש ש-SMART עלולה "להפריע בקבלת החלטות על ידי בקרי תעבורה מנוסים" - או, בתרחיש מדאיג יותר, שמערכת בינה מלאכותית המעבדת נפחים אדירים של נתונים חיים עלולה להזות פלט בטוח אך שגוי בסביבה קריטית לבטיחות. מחוקקים כולל נציג דון בייר סימנו סיכוני בטיחות של FAA AI שבועות לפני ההפרעה, וביום שישי חברי קונגרס משתי הצדדים החלו לדרוש תשובות לגבי מה השתבש.

למה זה חשוב מעבר לצהריים רעים אחד

לא משנה מה יסיקו החוקרים בסופו של דבר, התקרית היא מבחן מאמץ לדחיפה הרחבה יותר להטמעת AI בתשתית קריטית לבטיחות. הקונגרס אישר בשנה שעברה 12.5 מיליארד דולר למודרניזציה של מערכת בקרת התעבורה האווירית של המדינה - החלפת חיווט נחושת מיושן בסיבים אופטיים, ביטול הדרגתי של מערכות רדיו ישנות והתקנת פלטפורמות חישוביות חדשות ברחבי הרשת. שר התחבורה דאפי הצהיר בפומבי כי יידרשו עוד 30 מיליארד דולר כדי לסיים את העבודה. SMART הוא חלק גלוי אחד של השיפוץ הזה.

הפסקת NOTAM בשנת 2023, בעקבות קובץ מסד נתונים פגום יחיד שהתפשט במערכת הגיבוי, הוכיחה כי כשלים בתשתית תעופה נוטים למצוא את הפערים שהאדריכלים לא תכננו להם. מערכת ייעוץ חדשה לגמרי המתבססת על 200 זרמי נתונים חיים - כולל צוות בקרים ותקשורת מתקנים - בשכבות על גבי מרחב אווירי לאומי חי, היא בדיוק סוג האינטראקציה שחוקרי אינטראקציה יצטרכו כעת לדגמן, על פי הניתוח של Latin Times של כיוון החקירה.

לעת עתה, הסיבה הרשמית נותרה בלתי מזוהה. מה שידוע הוא שהתקלה כללה תשתית תקשורת ש-SMART, כיועץ ניתוב ותזמון, לא נוגע בה ישירות - פרט שאם יאושר, יצביע הרחק ממערכת הבינה המלאכותית כנקודת המוצא. אבל הפרק כבר הפך למקרה בוחן כיצד ארצות הברית פורסת בינה מלאכותית במערכות שבהן העלות של יום רע נמדדת באלפי טיסות שבוטלו, ושבה "אי אפשר לשלול שום דבר" היא התשובה הכנה ביותר שכל פקיד יכול לתת.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →