אחד מקבלני אבטחת הסייבר הגדולים בארצות הברית העלה מספר על מה שחוקרי אבטחה הזהירו מפניו כל השנה: דגמי הבינה המלאכותית החזיתית שנבנו עבור צ'אטבוטים ועוזרי קידוד מסוגלים כעת להריץ מתקפות סייבר בעיקר בעצמם. לסיקור מתמשך של פיתוחי אבטחת AI, ראה AI Buzz Wire.
דו"ח חדש מאת Booz Allen Hamilton, מכוסה על ידי SC Media ו-The Register ועשה סיבובים ברחבי עולם האבטחה התעשייתי במהלך השבוע האחרון, העריך 18 מודלים של AI - תשעה מארצות הברית ותשעה מסין - ומצא שאחד מהם השלים באופן אוטונומי שרשרת הרג סייבר מלאה בבדיקה: זיהוי נקודות תורפה, השגת גישה לרשת שליטה אנושית ללא התערבות אנושית.
דגם אחד סיים את שרשרת ההרוגים
הדו"ח, המכונה מדד נשק הסייבר, זכה בקלוד מיתוס של אנתרופיק כדגם היחיד שהשלים את כל רצף התקיפה באופן אוטונומי. כמה אחרים התקרבו באי נוחות. על פי סיקור הממצאים של SC Media, Grok-4.5 של xAI ו-GPT-5.6 Sol של OpenAI הפגינו התקדמות תקיפה אוטונומית משמעותית, והגיעו לגישה מלאה לדומיין או לתנועה צידית בתוך רשתות שנפגעו - צעדי הביניים שמבצע מפעיל בין כניסה ראשונית לשליטה מלאה.
שרשרת הרג, במונחים של אבטחת סייבר, משתרעת על פני סיור דרך ניצול, הסלמה והתמדה. מודל שהשלים אותו ללא סיוע תפקד למעשה כמפעיל סייבר פוגעני, לא כלי שרק כותב קוד ניצול כשנשאל.
הרתמה חשובה יותר מהדגם
אולי הממצא המשמעותי ביותר של הדו"ח נוגע לתוכנה, לא למודלים. רתמת ההתקפה - הפיגום שמחבר בין מודל AI לכלי פריצה אמיתיים, סורקים ומסגרות ניצול - מגביר באופן דרמטי את כל היכולת ההתקפית שכבר יש לדגם. דגם ברמה בינונית המחובר לרתמה מסוגלת יכול להתעלות על ביצועים גולמיים של דגם חזק יותר, מה שאומר שהמחסום בפני יכולת התקפה אוטונומית יורד מסיבות שאין להן שום קשר לשחרור הדגם הבא.
האנליסטים של בוז אלן מזהירים שהתקפות מונעות בינה מלאכותית מהמיינסטרים של קבוצות פשע המונעות כלכלית ושחקנים בחסות המדינה מתקרבות כעת. התחזית שלהם: רוב הדגמים שנבדקו צפויים להגיע לרמות נשק דומות למנהיגים של היום בתוך שישה חודשים. החברה גם דוחקת בממשלת ארה"ב לקבוע מועדים למפעילי תשתית קריטית להפגין עמידות בפני התקפות התומכות בינה מלאכותית, ולפתח יכולות AI התקפיות והגנתיות מעולות משלה.
אזהרה התואמת את זו של הענף
ההערכה נוחתת בתוך שורה של התראות דומות מתוך תעשיית הבינה המלאכותית עצמה. Anthropic סימנה בעבר התקפות סייבר מונעות בינה מלאכותית כנקודת פיתול קריטית, וההשקה של OpenAI עצמה של מודל החזית שלה לוותה בגילויים יוצאי דופן לציבור לגבי יכולות סייבר מתקדמות - כולל החלטה להגביל את הגישה בזמן שהחברה העריכה מה המודל שלה יכול לעשות לרשתות אמיתיות. דיווח נפרד על הממצאים של Booz Allen, שנשאו על ידי Industrial Cyber, מסגרת אותו דו"ח כאזהרה שחלונות התגובה לתשתיות קריטיות מצטמצמים ככל שהאוטונומיה של AI עולה.
הוויכוח על המדיניות הזה כבר לא היפותטי. מחוקקים כבר פתחו חקירות לגבי סיכוני אבטחת הסייבר של דגמי AI ממקור זר הפועלים בתוך תשתית קריטית בארה"ב, ומפעילי רשת דיווחו על עלייה בביקוש לחשמל מונע בינה מלאכותית במקביל לעניין הגובר בחסות המדינה במערכות אנרגיה. בדיקה מתועדת שבה מודל בינה מלאכותית מסחרית משלים שרשרת הרג בעצמו הופך את ההפשטות הללו למבחן.
מה המגינים צריכים לקחת ממנו
עבור צוותי אבטחה, ההשלכות המעשיות של הדו"ח מצומצמות יותר מהכותרות שלו. התקפה אוטונומית מניחה הגנה אוטונומית: אותן יכולות סוכן שמאפשרות לשרשרת מודל לנצל כבר נפרסות בצד הכחול, שוללת התראות, מתאם טלמטריה ותיקון במהירות המכונה. הפער שבוז אלן מזהה הוא ארגוני - רוב מפעילי התשתית הקריטיים עדיין מודדים תגובה לאירועים בשעות, בעוד שהתקפות בסיוע בינה מלאכותית דוחסות את ציר הזמן המקביל לדקות.
המלצת המשרד לגבי מועדים קשיחים היא הימור שרגולציה, לא לחץ בשוק, יסגור את הפער הזה. האם ארה"ב תמשיך בזה - ואם ספקי בינה מלאכותית יתייחסו להערכות יכולות התקפיות כשער טרום-שחרור כפי שהפרמקולוגיה מטפלת בניסויים קליניים - יעצב את האופן שבו ששת החודשים הבאים של תחזיות הדו"ח יתפתחו בפועל.
השוק ההתקפי כבר מתגבש
אם היה צורך באישור כלשהו לכך שהיכולת הזו הופכת לקטגוריית מוצרים, היא הגיעה יום לאחר הפצת הדוח. כפי ש-SC Media דיווחה בנפרד ב-4 בספטמבר, סטארט-אפ בשם Abliteration.ai השיק שירות שמטרתו במפורש לאפשר פעולות סייבר התקפיות, צוות אדום ובדיקות סוכנים עם מודלים של AI שספקים אחרים מסרבים להם. התזמון מדגיש את נקודת הליבה של הדו"ח לגבי רתמות: צוואר הבקבוק להתקפות אוטונומיות הוא כבר לא יכולת המודל אלא הכלים שמסביב, וכלים הם משהו שהשוק מספק כעת בעצמו.
קבוצות הגנה אינן צריכות לחכות למחזור המדדים הבא כדי לפעול על פי הממצאים. חלון הנשק בן שישה חודשים של הדו"ח הוא, מבחינה פונקציונלית, תאריך יעד למלאי נכסים, פילוח ומדידה של זמן תגובה - הבקרות הלא זוהרות הקובעות אם תוקף אוטונומי פוגש רשת קשוחה או רשת פתוחה.
הישאר לפני AI
עקוב אחר סיפורי האבטחה של AI החשובים. קרא עוד חדשות בינה מלאכותית לפני שיגיע לרשת שלך.
קרא עוד חדשות AI →
