Fireworks AI, הסטארט-אפ המבוסס על מסקנות Nvidia, הודיעה ללקוחות שאירוע אבטחה שנחשף בעבר היה רחב משמעותית ממה שדווח לראשונה, כאשר תוקפים ניגשו למידע על חשבון וחיוב, ועבור קבוצה מוגבלת של חשבונות, סודות, מערכי נתונים ומשקולות מודל לא שלמות, על פי עלון אבטחה מעודכן שפורסם באתר שלה ב-9 בנובמבר, דיווחו על Bloomberg ו-Forbes ב-9 בנובמבר. מתקפת סייבר כחשיפת נתוני לקוחות ומודלים של בינה מלאכותית.

החברה חשפה לראשונה את התקרית ב-9 באוקטובר, כשאמרה שרק הסודות המאוחסנים בזיקוקים ששימשו בעבודות הערכה זכו לגישה. העדכון החדש מרחיב באופן משמעותי את ההערכה וקושר את החדירה לקבוצת פושעי סייבר בעלת מוטיבציה פיננסית שרודפת אחרי מה שהתעשייה מכנה "LLMJacking" - גניבת גישה למודלים של שפות גדולות ומכירה מחדש של האסימונים לשערי ניתוב לא חוקיים. עבור חברות העוקבות אחר חדשות האבטחה של תעשיית AI, המקרה מתעצב כאירוע התייחסות לסוג חדש של התקפות על תשתית AI.

איך התפתחה הפרצה השנייה

לפי העלון, ספק ענן של צד שלישי המארח את מכונות המחקר והפיתוח של Fireworks חווה אירוע אבטחה משלו ב-23 באוקטובר. למחרת, גורם לא מורשה השתמש בדריסת רגל זו כדי להגיע למכונות הפיתוח של Fireworks והפעיל עומס עבודה לא מורשה שהוביל להשפעה נוספת על נתוני הלקוחות. Fireworks טוענת שהיא זיהתה את הפעילות באותו יום ונקטה באמצעי תיקון, וכי נכון ל-25 באוקטובר היא לא מצאה עדות נוספת לגישה לא מורשית מוצלחת בפלטפורמה שבה משתמשים לקוחות.

החברה עובדת עם יחידה 42 של פאלו אלטו נטוורקס, שמבצעת ניתוח פורנזי, ואמרה שהיא הודיעה לרשויות אכיפת החוק לאחר התקרית המקורית. Google Threat Intelligence Group ו-Mandiant פרסמו פוסט בבלוג ב-2 בנובמבר המתעד את עלייתו של LLMJacking, המניעים מאחוריו והטכניקות בהן נעשה שימוש - ההקשר Fireworks שצוטט בחשיפה שלה.

אילו נתונים נלקחו

היישום הפנימי המושפע חשף מספר קטגוריות של מידע, לפי העלון:

  • מטא נתונים של משאבים, כולל מזהי משאבי Fireworks, שמות תצוגה, תיאורים וזמני יצירה.
  • פרטי חיוב, כולל כתובות חיוב ומשלוח, היסטוריית חשבוניות ותשלומים, יתרות חשבון ושימוש באשראי.
  • משקלי מודל ומערכי נתונים: עבור לקוחות מסוימים, בוצעה גישה לקבוצת משנה של משקלי מודל ומערכי נתונים לא שלמים.

Fireworks מסרה שמספרי כרטיסי תשלום אינם מאוחסנים במערכות שלה ולא הושפעו. כמו כן, היא הצהירה כי היא לא זיהתה שום השפעה על שירותי הליבה Inference, Training SDK ו-Nexus שלה, הפועלים עם אפס שמירת נתונים כברירת מחדל - כלומר לא מאוחסנים נתוני הדרכה או מסקנות של לקוחות במצב מנוחה. החברה מסרה שהיא מודיעה ישירות ללקוחות שהנתונים שלהם הושפעו עם פרטים על ההשפעה ופעולות תגובה מומלצות.

בלימה ושאלות פתוחות

כחלק מתגובתה, בעבודה עם יחידה 42, Fireworks טוענת שהיא ביטלה והחליפה אישורים וחשבונות שירות, הסירה הרשאות מוגברות מיותרות, הגבלת נתיבי רשת ומערכות מושפעות מבודדות, הקשיחה את הגישה למערכות אחסון וניתוח נתונים, והקשיחה את הרישום והניטור. זה גם השבית העלאות והורדות של מערכי נתונים בשירות עצמי בשימוש על ידי Batch Inference והדרכה מבוססת נתונים בזמן שהחקירה נמשכת.

שתי שאלות משמעותיות נותרו פתוחות. ראשית, כמה מה"משקולות של דגמים לא שלמים" שניתן להשתמש בהם בפועל - משקלים חלקיים או בתהליך שנגנבו מצינור אימונים עשויים עדיין לחשוף מידע תחרותי על דגמי לקוחות בפיתוח, ו-Fireworks לא אמר אילו לקוחות או כמה הושפעו. שנית, אילו חובות נובעות עבור לקוחות שמערך הנתונים הקנייני שלהם נחשפו. החברה טוענת שהחקירה שלה נמשכת ועשויה לחשוף מידע נוסף.

מדוע LLMJacking צומח

התקפות LLMJacking מכוונות לשירותי AI המתארחים בענן כדי לאסוף גישה למודלים שמישים ולא לנתונים מסורתיים. לאחר מכן, האישורים או האסימונים הגנובים נמכרים מחדש דרך שערים לניתוב צללים המציעים גישה במחיר מוזל לדגמים מסחריים. קבוצת מודיעין האיומים של גוגל ומנדיאנט הקדישו דו"ח ב-2 בנובמבר למגמה, שאחריה עקבו חוקרי אבטחה במשך כשנתיים, כאשר האימוץ בארגונים של מסקנות מתארחות התפוצץ.

חשיפת הזיקוקים היא אחד המקרים המאושרים הראשונים שבהם נראה שתוקפים שילבו את ספר המשחק הזה עם גניבה של חפצי מודל של לקוחות אצל ספק תשתית AI. זה נוחת בתוך גל רחב יותר של תקריות אבטחה ברחבי מערכת האקולוגית של AI ומוסיף לחץ על ספקי מסקנות להדגים שפלטפורמות ריבוי דיירים יכולות לבודד עומסי עבודה של לקוחות. סטארט-אפים שמעריכים ספקי מסקנות עשויים לשאול שאלות קשות יותר על בידוד דיירים, היגיינת אישורים ותלות בענן של צד שלישי - המסלול המדויק שנוצל כאן.

Fireworks מסרה כי היא עוקבת אחר המערכות שלה מסביב לשעון ותפרסם עדכונים נוספים ככל שהחקירה תתקדם. לקוחות עם חששות מופנים להשיב לדוא"ל ההתראות שלהם על תקריות או לפנות לכתובת הודעת האבטחה של החברה.

התקרית גם ממחישה כיצד נורמות גילוי מבשילות עבור חברות בינה מלאכותית. Fireworks פרסמה את העלון הראשון שלה בתוך ימים מהפריצה הראשונית בתחילת אוקטובר, ולאחר מכן תיקנה אותו פעמיים כאשר הזיהוי הפלילי הרחיב את התמונה - רצף שצוותי אבטחה יזהו מהפרות תוכנה ארגוניות אחרונות, אך זה נותר נדיר בקרב ספקי תשתיות AI, שרבים מהם מעולם לא טיפלו בתקרית ציבורית. הבחירה להשבית את תכונות מערך הנתונים בשירות עצמי תוך השארת מוצר ההסקת הליבה פועל מעידה על כך שהחשיפה התרכזה במערכות נלוות ולא בנתיב השירות ללקוח עצמו.

---

הישאר לפני AI

קבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.

קרא עוד חדשות AI →