חוקרי אבטחה ב-Cisco Talos פירטו גנב מידע של Windows שמעביר את הגרירה הגנובה שלו למודל שפה גדול ומבקש ממנו לעשות מה שעשו פעם אנליסטים פליליים אנושיים: להבין אילו קורבנות כדאי לרדוף אחריהם. התוכנה הזדונית, ששמה בעצמה VOLTA-AUTODOXER, משתמשת בשלב יצירת פרופיל קורבנות המופעל על ידי LLM כדי להפוך יומני אישורים גולמיים לתיקיות מועדפות של האנשים שמאחורי המכונות.

בניתוח שפורסם ב-31 באוקטובר על ידי חוקר Talos Ryan Fetterman, התוכנה הזדונית - המלווה על ידי Talos בתור VOLTA - מתוארת כשתל גנב בוגר עם שכבת שילוב AI אופציונלית. לאחר קצירת אישורים, הפעלות דפדפן וארנקי מטבעות קריפטוגרפיים, VOLTA מרכיבה חבילת ראיות מובנית על הקורבן ומעבירה אותה לספק LLM עם הוראות לפעול כמנתח משפטי. הפיתוח מאותת לאן ניצול לרעה של AI בפשעי סייבר: לא רק יצירת טקסט דיוג, אלא עבודת מודיעין אוטומטית. לסיקור מתמשך של סיפורים כמו זה, עיין בפיתוחי הבינה המלאכותית האחרונים.

לגנוב הכל, ואז תן לבינה מלאכותית לסדר את זה

VOLTA צץ לראשונה דרך מאמץ המחקר של CAIRN, ו-Talos מתאר אותו כגנב מידע של Windows שמוחק מעצמו ללא תשתית בבעלות תוקפים - תכונות שמקשות גם על ייחוס וגם קשה יותר לשבש. שלב האיסוף שלו ממצה אפילו בסטנדרטים של גנבים: סיסמאות דפדפן, עוגיות וכרטיסי תשלום; ביטויי זרעים של ארנק קריפטו; אסימוני הפעלה של דיסקורד, טלגרם, Steam ו-Roblox; אסימוני OAuth של Microsoft; מפתחות SSH וספקי ענן; פרופילי Wi-Fi; וצילומי מסך.

החידוש מתחיל לאחר הגניבה. VOLTA בונה את מה ש-Talos מכנה חבילת ראיות מובנית המכילה מיקום גיאוגרפי וכתובת בית, דומיין מעביד ומעסיק, שנת לידה משוערת, ארבע הספרות האחרונות של כרטיסי תשלום, סביבות עבודה Slack, מטא נתונים של מחבר המסמכים, מחווני גיבוי לאייפון ואפילו הערכת שווי חיה של חשבון רובלוקס של הקורבן.

לאחר מכן הוא מעשיר את החבילה הזו באמצעות הפעלות הגנובות של הקורבן עצמו. לדברי Talos, התוכנה הזדונית מחפשת בג'ימייל של הקורבן קבלות רכישה כדי לאמת את כתובת הבית שלהם, מושכת היסטוריית הזמנות של UberEats ו- DoorDash ומעשירה את חשבונות Discord באמצעות האסימון הגנוב. התוצאה היא דיוקן של אדם שהורכב כמעט כולו מהחשבונות המחוברים שלו.

ההנחיה: 'פעל כאנליסט מודיעין משפטי'

החבילה המורכבת עוברת בסידרה ונשלחת ל-LLMs אליהם ניתן לגשת דרך OpenRouter, שירות המנתב בקשות לספקי דגמים מרובים. ההנחיה של המערכת מורה למודל לפעול כ"מנתח מודיעין משפטי המנסח הערכת יעד".

התפוקה הנדרשת היא תאגידית להפליא. זה חייב לכלול סעיף שכותרתו "מה הם שווים", המדרג את חפצי הערך של הקורבן לפי פוטנציאל מונטיזציה עם רמות נמוכות, בינוניות וגבוהות, וסעיף על "THEIR OPSEC", הערכת תנוחת האבטחה של הקורבן והיגיינת הסיסמה. המודל הופך למעשה לאנליסט הטריאג' של המפעיל, ומייצר תיק מגובה ציטוטים שאומר לפושע היכן הכסף.

Talos גם מצא ראיות לכך שהמפעילים הנדסו סביב מעקות בטיחות בינה מלאכותית. אם מודל מסרב לבצע את הערכת היעד, VOLTA נכשל לשרשרת של שלושה דגמים, ומנסה את הדגם הבא בהמשך - מה שהחוקר מתאר כמאמץ הנדסי ישיר שנבנה על ציפייה לפגיעה בסירוב מודל. בקשת תצורת הבינה המלאכותית ששוחזרה מהתוכנה הזדונית אפילו נושאת הוראות סגנוניות: "לך עמוק, לא רחב... היה בוטה, ספציפי, מדויק."

למה זה חשוב

Talos מסגר את החידוש במדויק: ה-AI כאן אינו תומך ביכולת תוכנה זדונית מסורתית כמו ערפול או יצירת פיתוי. הוא עובד כאנליסט מודיעין מטעם המפעיל. הרעיון שנדד לעולם פשעי הסייבר, כותבת החברה, הוא להטיל רשת רחבה, לגנוב הכל ולתת לבינה מלאכותית לברר את הפרטים.

יש לכך השלכות מעבר למשפחה היחידה הזו של תוכנות זדוניות. גנבי מידע כבר מאכילים חלק גדול מהכלכלה הפלילית - יומנים נמכרים בכמויות גדולות, והקונים בוחרים בהם באופן ידני. שלב טריאז' מונע על ידי דגמים הופך את האיסוף לאוטומטי, ומאפשר למפעילים בעלי מיומנות נמוכה להפיק ערך מרבי מגניבות בנפחים גבוהים ולרכז התקפות מעקב, כגון סחיטה או השתלטות על חשבון, על הקורבנות שיכולים לשלם בפועל.

עבור ספקי דגמים ושירותי ניתוב, המקרה הוא תזכורת לכך ששימוש לרעה אינו מוגבל לממשקי צ'אט ציבוריים. גישה מבוססת API דרך משווקים ואגרגטורים יוצרת נתיב מונטיזציה עבור כלי עבודה פליליים, והתנהגות סירוב - שמפעילי VOLTA חזו בבירור - נותרה קו ההגנה הראשון.

עבור המשתמשים, ההדרכה המעשית ללא שינוי אך דחופה יותר: ההגנה הבטוחה ביותר מפני גנב מידע שיכול לחקור את כל החיים הדיגיטליים שלך היא למנוע ממנו גישה מלכתחילה, עם סיסמאות ייחודיות, אימות רב-גורמי עמיד בפני פישינג והיגיינת דפדפן ותעודות מהירה.

טאלוס אומר ש-VOLTA הוא שתל בוגר, מה שמרמז כי ייתכן ששילוב הבינה המלאכותית כבר פעל בטבע במשך זמן מה. כמו בחידושים קודמים של גנבים, עותקים וחקיינים נוטים לעקוב במהירות.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →