האקר בודד פרץ ליותר מ-100 אתרי אינטרנט באמצעות צבא של סוכני בינה מלאכותית שביצעו את ההתקפות עם מעט מעורבות מצד המפעיל האנושי, על פי ממצאים של חברת אבטחת הבינה המלאכותית Norforge שדווחו ביום שני על ידי רויטרס ו-The Verge. הקורבנות כללו חברות מוכרות כמו ג'ון דיר, SharkNinja ו-Cummins, שהדגישו באיזו מהירות עברו סוכני AI אוטונומיים מהדגמות מחקר לכלים פליליים מעשיים.
איך התגלו ההתקפות להקשר נוסף על הסיפור הזה, עיין בסיקור תעשיית הבינה המלאכותית המתמשך שלנו.
Norforge חשפה את הקמפיין באמצעות עבודה חשופה על Cairn, פלטפורמת AI בקוד פתוח שמתארת את עצמה כ"מנוע לפתרון בעיות למטרות כלליות". עם Cairn, משתמשים מגדירים נקודת התחלה וסיום עבור סוכני בינה מלאכותית, אשר מתעדים את ההתקדמות שלהם בזמן שהם עובדים לקראת המטרה. הגמישות של הפלטפורמה היא הנקודה: אותה שכבת תזמור המאפשרת לסוכנים לתכנן ולבצע משימות לגיטימיות מורכבות יכולה להיות גם להפנות אל משימות לא מורשות.
Norforge מצאה יותר מ-20 מקרים חשופים של Cairn שלדעתה הם "ככל הנראה זדוניים", וההאקר מאחורי יותר מ-100 הפרות היה המפעיל הפעיל ביותר מביניהם. לפי רויטרס, ההתקפות כוונו לחברות שבסיסן בארה"ב, קנדה, אוסטרליה ויפן.
היקף המעורבות האנושית היה קטן להפליא. סוכנות הידיעות רויטרס דיווחה כי התוקף הציג טקטיקות חדירה מועדפות בפחות מ-100 תווים סיניים - תיאור משימה קצר יותר ממייל טיפוסי - ולאחר מכן הסוכנים ניהלו את הפעולות בעיקר בעצמם. הפרות מוצלחות נמשכו כ-23 שעות מתחילתה ועד סופה, נכתב בדו"ח.
מי נפגע
Norforge לא נותנת שם יעדים, אבל רויטרס זיהתה חברות כולל ג'ון דיר, SharkNinja ו-Cummins בין הקורבנות. הארגונים שנפגעו הגיבו בזהירות.
בהצהרה ל-The Verge, דוברת קאמינס, מלינדה קוסקי, אמרה כי החברה "חוקרת את הדיווח על מתקפת סייבר פוטנציאלית באתר שמופעל על ידי אחד מספקי הצד השלישי שלנו". דובר של ג'ון דיר אמר לסוכנות הידיעות רויטרס כי "אין אינדיקציה לכך שנכנסה למידע רגיש" בהתקפה. SharkNinja אמר שהפריצה השפיעה על אתר עצמאי המארח מידע תמיכה במוצר וכי היא הכילה את האיום.
הדפוס - ספקים ואתרי תמיכה פונה לציבור ולא רשתות ארגוניות מרכזיות - מצביע על כך שהקמפיין מונע בינה מלאכותית מעדיף רוחב ונגישות על פני עומק, לפחות במקרים אלה. זה גם מראה כיצד תשתית אינטרנט של צד שלישי הופכת לנקודת הכניסה הרכה להתקפות מונעות על ידי סוכנים.
הפלטפורמה במרכז
היוצר של Cairn, שעובר על הידית @le1xia0, דחף את אפיון הכלי כסמוך לתוכנות זדוניות. מוקדם יותר החודש אמר היוצר שהפלטפורמה "מעולם לא הייתה 'כלי פריצה'", והוסיף כי "שימוש לרעה הוא החלטה אנושית, לא תכונה של המנוע".
ההבחנה הזו עושה הרבה עבודה. Cairn זמין באופן גלוי ולמטרה כללית בתכנון, בדומה למסגרות הסוכנים שמעבדות מספקות לאוטומציה לגיטימית. Norforge אומרת שהיא פועלת כדי להסיר את המקרים הזדוניים של Cairn, אבל הפרק ממחיש את הבעיה המבנית: כאשר פלטפורמות סוכנים מתעדות את ההתקדמות שלהן לעבר יעדים שהוגדרו על ידי המשתמש, המגינים מקבלים שובל לנתח - והתוקפים מקבלים ספר משחק שניתן לחזור עליו.
שנה של אזהרות אבטחה של סוכן בינה מלאכותית
הדו"ח נוחת על רקע שלל כותרות סוכן-ביטחוניות שדחפו את הנושא מתיאורטי למבצעי. ממשלות פרסמו הנחיות לאיתור וסגירת סוכני בינה מלאכותית סוררת, חברות אבטחה קיטלגו ניסיונות של סוכני בינה מלאכותית לפרוץ אתרי אינטרנט ממשלתיים, והמעבדות עצמן חשפו מקרים שבהם המודלים שלהם פרצו מסביבות בדיקה במהלך הערכות אבטחת סייבר. הדו"ח של Verge ממקם את ממצאי Norforge בדיוק בנוף הזה: האקרים המשתמשים בבינה מלאכותית כדי לבצע התקפות בקנה מידה גדול מצד אחד, וסוכנים נוכלים שנמלטים מסביבות בדיקה מצד שני.
מה שמייחד את ממצאי Norforge הוא הכלכלה. אדם אחד, כמה אלפי דולרים בחישוב, ומסגרת סוכן למטרות כלליות יצרו הפרות בקנה מידה שבעבר היה מצריך צוות. הדיווח של רויטרס שם את ההוצאה של ההאקר בדיוק בטווח הזה, רף עלות נמוך מספיק כדי שחוקרני אבטחה מצפים שהתקפות מונעות על ידי סוכנים יגדלו גם אם לא ייבנו כלים חדשים.
מה המגינים יכולים לעשות
עבור המגינים, ההטבה המעשית היא פרוצדורלית. מסעות פרסום מונעי סוכנים נראים שונה מפריצות קונבנציונליות: הם סבלניים, מתודיים ומתועדים היטב, בודקים מטרות במשך שעות במקום לירות ניצול בודד. צוותי אבטחה צריכים להניח שתוקפים יכולים להפעיל פעולות אוטונומיות שנמשכות ימים, וצריכים לתאם חריגות בין ספקי צד שלישי - מכיוון שכך בדיוק התפתחו הפרצות של 23 שעות, דרך אתרים המופעלים על ידי ספקים ולא רשתות ליבה ארגוניות.
פרק Cairn נושא גם לקח עבור המערכת האקולוגית של הסוכן עצמו. פלטפורמות המאפשרות לסוכנים לתכנן לעבר יעדים פתוחים, ולתעד את ההתקדמות שלהם, הן חזקות לאוטומציה לגיטימית - וקריאות באותה מידה לתוקפים. יכולת ללא בקרות שימוש לרעה הופכת לאחריות של שרשרת האספקה עבור כל תנועת הבינה המלאכותית בקוד פתוח, ועבודת ההסרה של Norforge היא פער, לא תיקון.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →
