האקרים השתמשו במסגרת פריצה מגובת בינה מלאכותית המתפתחת במהירות בפריצה לתחום התעופה והחלל האמריקאי, כך מסרה היום (שני) זרוע מודיעין האיומים של גוגל בממצאים שדווחו על ידי Nextgov. הכלי, המכונה Cairn, הוא מסגרת לבדיקת חדירה זמינה לציבור הקשורה לקהילת האבטחה הסינית בקוד פתוח - והופעתו בתוך פריצה חיה מסמנת צעד נוסף בהגירה של AI סוכן מהדגמות מחקר לפעולות ריגול אמיתיות.
גוגל לא ציינה את שם ארגון התעופה והחלל שאליו הגישה, לא אמרה איזה מידע נלקח או ייחסה את החדירה לממשלה מסוימת. הדו"ח מכסה באופן נרחב את הפעילות שנצפתה ברבעון האחרון, והוא נוחת על רקע הסיקור של תעשיית הבינה המלאכותית של היום של מערכות אגנטיות המיועדות מחדש מהר יותר ממה שהמגנים יכולים להסתגל.
מה קאירן ובני דודיו יכולים לעשות
Cairn שונה מהפריצה בסיוע צ'טבוט ששלטה בדיווחי איומים קודמים. במקום שאדם ידרבן עוזר AI צעד אחר צעד, Cairn משתמש בסוכני בינה מלאכותית שחולקים מידע זה עם זה ומחליטים אילו טכניקות פריצה לנסות בשלב הבא כשהם פועלים לחדור למערכת.
חוקרי גוגל אמרו שמערכות קוד פתוח אחרות - כולל ARTEX, CyberStrikeAI ו-PentAGI - משמשות כעת ל"ביצוע חדירות מרובות שלבים במהירות תפעולית גבוהה יותר" בהשוואה לפעילות קודמת שבה האקרים ביקשו ידנית לצ'אטבוטים של AI לסייע בצעדים בודדים. ARTEX סומן בנפרד בייעוץ אבטחת סייבר של ה-FBI שפורסם ביום שישי.
הממצא המדאיג ביותר: ניצול אוטומטי לחלוטין
תגלית אחת בולטת מהדוח הרבעוני. חוקרי גוגל מצאו מערכת של תוקף שהוגדרה לחקור תיקוני תוכנה, לפתח התקפות על סמך מה שהיא למדה ולבצע את ההתקפות הללו באופן אוטומטי - ללא אדם מעורב בלולאה. החברה אמרה שזו הפעם הראשונה שהחוקרים שלה זיהו תוקפים האוטומטים לחלוטין את התהליך הזה.
המשמעות היא חמורה: המירוץ בין שחרור תיקונים לניצול עלול לקרוס משבועות לשעות, ולהפעיל לחץ נוסף על ארגונים שכבר נאבקים להתקין עדכוני אבטחה לפני שפושעים מגיעים אליהם. ה-Hacker News, המכסה את אותם ממצאים, סיכם את הטכניקה כהאקרים המשתמשים בסוכני AI כדי לבנות ולהריץ ניצולים ישירות מתיקוני תוכנה.
"בהתחשב בחסם הכניסה הנמוך, הקלות בשילוב ניצולים חדשים ופוטנציאל קנה המידה האדיר, אנו מאמינים שסביר מאוד שגורמי איומים ימשיכו להשתמש במסגרות אלו בקמפיינים המכוונים לארגונים ברחבי העולם", אמרה החברה, לפי Nextgov.
צוותים סיניים מתעשים ניתוח; מגייסים צפון קוריאנים הולכים לסינטטי
הדו"ח מפרט גם כיצד שחקנים הקשורים למדינה מקפלים מודלים לשלבים שונים של פעילותם. קולקטיבים של פריצה סיניים השתמשו במודלים של AI כדי לנתח קבצים גנובים ולהפיק דוחות מודיעין מוגמרים ללקוחות. באחד המקרים, קבלן השתמש בבינה מלאכותית כדי לתרגם ולנתח מידע גנוב, לברר כיצד בנויים ארגונים ממוקדים ולארגן את הממצאים לדוחות מודיעין - תוך שימוש בטכנולוגיה לעבודת הפרשנות המורכבת שאחרי גניבה ולא אחרי הגניבה עצמה.
גוגל גם צפתה בפעילים סינים חשודים שהתנסו בכלי פריצה אוטומטיים, כולל קבוצה אחת המקושרת לסין מפתחת מערכת משלה, ככל הנראה לשימוש בפעולות ריגול.
שחקנים צפון קוריאנים, בינתיים, משתמשים בבינה מלאכותית כדי לחדד את ההנדסה החברתית שלהם. קבוצה אחת של גוגל עוקבת אחר ארגוני מטבעות קריפטוגרפיים ממוקדים בצפון אמריקה ובאירופה באמצעות פרופילים מפוברקים של מגייסים. המגייסים המזויפים הפנו מטרות לשירותי פגישות מזויפים, כאשר הוראות לתיקון בעיה טכנית לכאורה הובילו אותם להפעיל קוד זדוני.
לאחר שנכנסו, התוקפים שינו את ההגדרות של קלוד קוד - עוזר קידוד הבינה המלאכותית של אנתרופיק - במאגרי הקוד של החברה, כך שהשקת העוזר תפעיל הורדת תוכנות זדוניות. הפעלת נשק של כלי מפתח מהימן פירושה שהפעולה הזדונית מונחת על מהנדסי תוכנה שכבר סומכים עליהם.
הממצאים מהדהדים הודעת משרד המשפטים בשבוע שעבר על FaceStealer, תוכנית שיחות וידאו מזויפות צפון קוריאנית המקושרת ליותר מ-400 מיליון דולר בגניבה, לצד צווי בית משפט המכסים יותר מ-1.2 מיליארד דולר שנגנבו מ-Binance. הדו"ח של גוגל לא קשר את ממצאיה לאף אחד מהמקרים.
השפעת פעולות גם היא תהיה אוטומטית יותר
מעבר לריגול ולפשע פיננסי, גוגל אמרה כי פעולות השפעה הקשורות לרוסיה, סין ואיראן משתמשות כעת בשגרה במודלים של בינה מלאכותית כדי לייצר תוכן ולהפוך את ההפצה שלו לאוטומטית - מאצילה יותר מהעבודה של התחזות לאנשים רגילים באינטרנט למכונות.
פער הולך וגדל
ביחד, הממצאים משרטטים בעיה הגנתית שגדלה עם כל מהדורה של קוד פתוח. מסגרות לבדיקת חדירה כמו Cairn, ARTEX, CyberStrikeAI ו-PentAGI הן כלים משפטיים שנבנו על ידי ועבור קהילת האבטחה, והארכיטקטורה הסוכנת שלהן הופכת אותן לשימושיות באמת עבור צוותים אדומים. אותם מאפיינים הופכים אותם לנשק התקפי סוהר לכל מי שמוריד אותם.
המסר של גוגל למגינים הוא למעשה הנחה תכנונית ולא חיזוי: נניח שהפריצה הבאה שעומדת בפניך בוצעה במהירות מכונה, על ציר זמן שנקבע על ידי סוכן שקרא את הערות התיקון שלך לפני שסיימת לפרוס אותן.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →