בכירים בוול סטריט ובכירי הסוכנות לביטחון לאומי אמרו לחברי הקונגרס כי מפל השבוע של הפסקות הטכנולוגיה בארה"ב נגרם לא ממתקפות סייבר, אלא ממאמצי חירום לתיקון נקודות תורפה שדגמי בינה מלאכותית חשפו, על פי דיווח של הוושינגטון סאן המצטט שלושה מקורות הבקיאים בשיחות הפרטיות.

הטענה, אם תוכח, תסמן את אחד המקרים הכי ברורים עד כה של השפעות מסדר שני של AI המערערות את התשתית הקריטית - לא בגלל שדגמים תקפו משהו, אלא בגלל שהם מצאו כל כך הרבה חולשות אמיתיות שמפעילים אנושיים מיהרו לתקן את כולן בבת אחת. For more context on this story, see our ongoing breaking AI news.

שבוע של כישלונות מדורגים

ההפסקות החלו להצטבר ב-12 בנובמבר והואצו במהלך השבוע. ב-13 בנובמבר, רשויות התעופה בארה"ב פרסמו עצירה קרקעית ארצית עקב תקלה טכנולוגית בתקשורת - מה שהסטרייט טיימס תיאר כעצירת הטיסות הארצית הארוכה ביותר מאז התקפות ה-11 בספטמבר 2001. שירות הדואר האלקטרוני של מיקרוסופט ב-Outlook סבל משיבושים שהפילו את ההתכתבויות של חברות אמריקאיות רבות, ושירותי אפל, כולל iCloud, ה-App Store ו-Apple Pay, ירדו גם הם.

ב-16 בנובמבר, המהומה הגיעה למערכת הבנקאית, כאשר לקוחות במוסדות כולל JPMorgan Chase לא יכלו לגשת לחשבונות; הבנק ייחס את בעיות השירות שלו לבאגים בתוכנה. ב-17 בנובמבר, ה-NSA עצמו הודיע ​​כי הרשת שלה חוותה "הידרדרות זמנית" במהלך מה שהיא כינתה תחזוקה שוטפת מתוזמנת, תוך התעקשות ש"יכולות קריטיות למשימה" נותרו מבצעיות במלואן.

גורמים רשמיים שללו בעקביות מתקפת סייבר עוינת. מזכיר המדינה, מרקו רוביו, כיהן כיועץ לביטחון לאומי, הודה שהתקריות היו "מטרידות" אך אמר לכתבים במנילה, שם השתתף הנשיא דונלד טראמפ בוועידה הכלכלית של ASEAN, "אנחנו לא תחת מתקפה מערכתית. אין לנו ראיות או כל סיבה להאמין שכל אחד מאלה קשור".

ההסבר לתיקון AI

מאחורי הקלעים, הסבר אחר הסתובב בגבעת הקפיטול. לפי הדיווח של הוושינגטון סאן, פקידי ממשלה ובנקאות אמרו למחוקקים שהשיבושים נבעו מניסיונות לתקן פערים בהגנות סייבר שדגמי בינה מלאכותית זיהו, ושהמבול של תיקונים כתוצאה מכך הכריע זמנית את המערכות המושפעות.

"המודלים האלה מזהים פגיעויות מסיביות, וזה מגביר את הדחיפות לתיקון מיד", אמר אחד מפקידי הקונגרס בעניין זה. "הם מנסים לדחוף הרבה תיקונים בבת אחת - יותר ממה שהמערכת תוכננה עבורו."

השר לביטחון המולדת, מרקוויין מולין, הציע אבחנה קשורה בראיון ל-CNBC, ואמר שארגונים "דוחפים טכנולוגיה חדשה על גבי מערכות מחשב ישנות באמת, ונראה שזה פשוט מציף את המערכת... אנחנו הולכים לראות יותר מזה עם יציאת טכנולוגיה חדשה".

החשבון עולה בקנה אחד עם צוותי אבטחה דינמיים שהזהירו מפני כשניתוח קוד בסיוע בינה מלאכותית מתבגר: מודלים שיכולים לסרוק בסיסי קוד ענקיים לאיתור פגמים שניתנים לניצול מייצרים ממצאים מהר יותר מאשר תהליכי ניהול שינויים יכולים לקלוט אותם בבטחה. תיקון הוא כשלעצמו פעולה מסוכנת, וביצוע יותר מדי מהר מדי בתשתיות מזדקנות עלול להפריע לא פחות מהפגיעויות שהוא מתקן.

מחוקקים דוחפים לתשובות

התגובה הפוליטית הייתה דו-מפלגתית במיוחד בקוצר רוחה. הסנאטור ג'וש האולי, רפובליקני ממיזורי, אמר לכתבים, "אם זה הכל צירוף מקרים, זה כמו צירוף המקרים הגדול ביותר בהיסטוריה של העולם", בעוד שהסנאטור ג'ק ריד, הדמוקרט המדורג בוועדת השירותים המזוינים, הצטרף לקריאות להסבר מלא יותר של הדפוס.

טראמפ צמצם בפומבי את הפרק. "זה כמו כשאתה גדול וחזק, ויש לך את כל הכסף. דברים כאלה קורים. זה בסדר", אמר הנשיא לכתבים במנילה. הבית הלבן אמר כי "אין משבר".

אנליסטים שצוטטו בסיקור ההפסקות הצביעו על שני גורמים מורכבים: קיצוץ כוח אדם עמוק בין פעולות הטכנולוגיה בשנים האחרונות, ושילוב מואץ של כלי AI בתחזוקת מערכות, מה שאולי הפך את התשתית הקריטית לפחות גמישה ושברירית יותר כאשר היא נכשלת.

מה זה אומר עבור תעשיית הבינה המלאכותית

עבור מגזר הבינה המלאכותית, השבוע הוא אזהרה לגבי הקצב התפעולי שיוצר כלי בינה מלאכותית. אותן יכולות מודל המאפשרות למגינים למצוא נקודות תורפה במהירות המכונה גם מחייבות אותם ללוחות זמנים לתיקון שמערכות מדור קודם מעולם לא תוכננו לעמוד בהן. מספר ספקים משווקים כעת סריקת אבטחה רציפה מונעת בינה מלאכותית בדיוק בגלל שהיא מוצאת פגמים שבני אדם מחמיצים - ההפסקות מצביעות על כך שצוואר הבקבוק עבר מגילוי לפריסה.

מחוקקים צפויים לבקש תדרוכים רשמיים על גל ההפסקות כאשר הקונגרס יחזיר את תשומת ליבו לפיקוח על התשתיות, והן סוכנויות והבנקים צפויים להתמודד עם שאלות לגבי האופן שבו תחזוקה מונעת בינה מלאכותית מתוזמנת, נבדקת ומצמצמת. הפרק עשוי גם להזין ויכוח רגולטורי מתהווה בשאלה האם יש לבצע שינויים בסיוע בינה מלאכותית במערכות קריטיות ולהגביל את הקצב כמו שינויים תפעוליים אחרים בסיכון גבוה.

לעת עתה, הטיסות טסות, הבנקים עונים לאפליקציות שלהם, וה-NSA אומר שהמערכות הקריטיות למשימה בסדר. הלקח הלא נוח שהקונגרס מתבקש לספוג הוא שייתכן שהמכונות שמוצאות את הפגמים פועלות לפני המוסדות שמתקנים אותם.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →