חקירה בינלאומית בהובלת גוף התיאום הבכיר של אבטחת הסייבר ביפן זיהתה כ-1,000 שרתים החשודים כמשמשים כנקודות השקה למתקפות סייבר מתקדמות מונעות בינה מלאכותית, על פי דיווח של Kyodo News שנערך על ידי The Straits Times ושקעים אחרים. מרכז התיאום של צוות החירום הממוחשב של יפן, או JPCERT/CC, ערך את הבדיקה יחד עם חברות אבטחת סייבר בחו"ל והחל בחקירה בתחילת אוקטובר. כרגע הוא עוקב אחר 600 עד 700 מהשרתים האלה.

הממצא הוא אחד האותות הברורים ביותר עד כה לכך שהפריצה בעזרת AI עברה מניסוי לתשתית. תוקפים כבר לא רק מבקשים עצות מצ'אטבוטים - הם מקימים שרתים ייעודיים שמפעילים כלי AI מסביב לשעון. להמשך סיקור אבטחה AI וניתוח של האופן שבו בינה מלאכותית מעצבת מחדש את נוף האיומים, AI Buzz Wire עוקב אחר החקירות החשובות.

מה מצאו החוקרים בשרתים

החקירה מצאה כי התוקפים השתמשו בשרתים כדי לפרוס כלי בינה מלאכותית הסורקים לאיתור פגיעויות של מערכת ומכוונים לאתרים ברחבי העולם, לפי הדיווח. רוב השרתים אירחו כלים המופעלים על ידי בינה מלאכותית, כולל פלטפורמת בדיקת חדירה בשם Artex, ששימשו לחיפוש חולשות ולניסיון לגנוב קבצי תצורה.

חלק מהשרתים הנגישים לציבור הכילו גם תוכניות לבדיקת פרצות מערכת וכלים לניתוח המבנה הפנימי של יישומי סמארטפון. החוקרים אמרו שהתוקפים השתמשו בכלים הללו כדי לנסות גישה בלתי מורשית באמצעות ממשקים המחליפים מידע עם מערכות חיצוניות - ממשקי ה-API והשירותים המחברים יישומים מודרניים לעולם החיצון.

פרט אחד בלט לחוקרים: באחד השרתים, חוקרים מצאו עקבות לכלי תמיכה בתכנות שנוצרה על ידי חברת הבינה המלאכותית האמריקאית Anthropic, מה שמרמז כי התוקפים נוהגים לעלות על כלי מפתח מיינסטרים כדי לשפר את יכולות הפריצה שלהם, על פי דוח Kyodo.

הנוכחות של כלי מפתח מיינסטרים על תשתית התוקפים מדגישה את האתגר המבני של AI דו-שימושי. מערכת מותאמת לכתיבת קוד או רשתות בדיקה לא יודעת אם המפעיל שלה הוא מגן או פולש, וברגע שהשימוש עובר לתשתיות כמו שרתים אלה, הנראות עליה מסתמכים ספקים וחוקרים נעלמה במידה רבה.

בינה מלאכותית מורידה את רף הכניסה

הופעתה של בינה מלאכותית מתקדמת מורידה את החסמים הטכניים עבור פושעי סייבר, ומקלה על הפריצה אפילו לאנשים ללא ידע מיוחד, סיכמה החקירה. "האקינג, שבעבר דרש זמן אפילו לבעלי ידע מיוחד, הפך קל יותר עם הופעתה של AI ברמה גבוהה", צוין בדו"ח.

אנליסטים של אבטחת סייבר שצוטטו בסיקור אמרו שהתקפות סייבר בסיוע בינה מלאכותית נותרו בשלב מוקדם, אך הזהירו שהאיום עלול לגדול במהירות. "התקפות מתוחכמות יותר יגדלו בעתיד", אמר קן סאג'ו, אנליסט ב-JPCERT/CC. מוקדם, במילים אחרות, אבל כבר מאורגן - וכבר פועל בקנה מידה של פעולת אירוח קטנה.

האזהרה מתיישרת עם התפתחות מקבילה בארצות הברית. בדיווח שפורסם ביום שישי, Nacionale תיארה כיצד Artex - אותה פלטפורמת בדיקת חדירה שנמצאת ברוב השרתים בבדיקה המנוהלת על ידי יפנית - נבנתה במקור כדי לעזור לארגונים לבדוק את הרשתות שלהם עבור נקודות חולשה, אך ה-FBI אומר שהתוקפים הפכו אותה כעת לכלי פריצה.

כלים דו-שימושיים, השלכות בעולם האמיתי

התבנית שמתארת JPCERT היא הדילמה הדו-שימושית של תעשיית האבטחה המתרחשת בקנה מידה אינטרנטי. פלטפורמות לבדיקת חדירה קיימות מכיוון שארגונים צריכים למצוא את הפגמים שלהם לפני שהפושעים יעשו זאת. אותו כלי עבודה, הצביע כלפי חוץ, גורם לאוטומטי של סיור, סריקת פגיעות והתקפות אישורים נגד כל מי שיש לו ממשק חשוף.

השרתים בבדיקה ממחישים מגמה שנייה: התוקפים מתייחסים לכלי בינה מלאכותית כמו לתשתית רגילה - מעמידים אותו, חושפים אותו, ובמקרים מסוימים מגדירים אותו בצורה שגויה עד כדי כך שהחוקרים יכלו לראות אותו פועל בשטח פתוח. הנראות הזו היא שאיפשרה את הסקר, והיא מציעה למגינים חלון נדיר לאופן ארגון הפעולות הללו. העובדה שהשרתים נצפו מאז אוקטובר מעידה גם על פעולות מתמשכות ולא על ניסויים חד פעמיים - תשתית שמסופקת, מתוחזקת ומוחלפת ככל שהיא מתגלה, דפוס המאפיין יותר פעולות פליליות מבוססות מאשר אנשים אופורטוניסטים.

עבור ארגונים, ההשלכות המעשיות הן מיידיות. הדוח אומר שהשרתים שימשו לחיפוש אחר נקודות תורפה ולגניבת קבצי תצורה, שלעתים קרובות מכילים אישורים ופרטי רשת פנימיים. הקשחת נקודות הקצה של API, הגבלת ממשקי ניהול, סיבוב סודות חשופים וניטור לסריקה אוטומטית הם קו הבסיס ההגנתי שאליו מצביעים הממצאים.

החקירה של JPCERT/CC נמשכת, והסוכנות אומרת שהיא תמשיך לעקוב אחר השרתים שהיא זיהתה. השאלה הגדולה יותר - כיצד לשלוט בכלים שהם בו זמנית מוצרי אבטחה וכלי נשק לתקיפה - נשאלת כעת באולמות משפט, חדרי ישיבות וכפי שמראה חקירה זו, על פני כאלף שרתים ברחבי העולם.

הישאר לפני AI

מדגמי חזית ועד לאיומים בחזית, סיפור הבינה המלאכותית נע במהירות. הישאר לפני AI עם הסיקור של AI Buzz Wire על ההתפתחויות החשובות.

קרא עוד חדשות AI →