מתקפת שרשרת אספקה על חבילת קוד פתוח אחת הפכה לאחד מאירועי האבטחה המבולגנים ביותר בתעשיית הבינה המלאכותית הצעירה, חושפת נתונים המוחזקת על ידי הסטארט-אפ לתיוג הנתונים Mercor ואילצה את Meta להשהות ללא הגבלת זמן את עבודתה עם החברה.
ההפרה, שאישרה מרקור ב-31 במרץ, נלקחה בעקבות פשרה של LiteLLM, כלי קוד פתוח בשימוש נרחב שהוורד מיליוני פעמים מדי יום. במשך כ-40 דקות, גרסה מורעלת של LiteLLM אכסנה תוכנות זדוניות לאסוף אישורים שגנבה אישורי כניסה ולאחר מכן השתמשה בהם כדי להגיע עמוק יותר למערכות מחוברות. הפרק עבר מאז גרורות לתביעות משפטיות, הקפאת התקשרויות והתחשבנות רחבה יותר לגבי מידת האמון שתעשיית הבינה המלאכותית נותנת בתוכנות מתווך שאינה שולטת בה. לעוד חדשות בינה מלאכותית על אבטחה ואמון, עקוב אחר הסיקור המתמשך שלנו.
איך פעלה המתקפה
המכניקה היא פשרה לשרשרת האספקה של תוכנת ספרי לימוד. לפי דיווחים של TechJuice ו-TechCrunch, תוקפים הצליחו לדחוף קוד זדוני לתוך LiteLLM, ספריית הקוד הפתוח שחברות בינה מלאכותית רבות משתמשות בה כדי לנתב בקשות בין מודלים שונים של שפות. מכיוון שמתייחסים ל-LiteLLM כתשתית מהימנה ונמשכת לסביבות ייצור באופן אוטומטי, הבנייה הזדונית התפשטה במהירות.
במשך כ-40 דקות, הכלי המבולבל קטף בשקט אישורים מכל מי שמפעיל אותו. אישורים אלה שימשו לאחר מכן כדי לגשת למערכות נוספות, מה שהוסיף את הנזק מעבר לדריסת הרגל הראשונית. מרקור, שעסקיה תלויים בניהול כמויות גדולות של נתוני קבלן ולקוחות רגישים, הייתה בין החשופים ביותר.
תביעת סחיטה של 4 טרה-בתים
לאחר החשיפה, קבוצת האקרים טענה שהיא מחזיקה בערך 4 טרה-בייט של נתונים שנגנבו מהמערכות של מרקור. ההובלה הנטענת כוללת פרופילי מועמדים, מידע אישי מזהה, נתוני מעסיק, קוד מקור ומפתחות API, מלאי גורף של בדיוק סוג החומר שחברת תיוג נתונים מרכזת. מרקור לא אישרה ולא הכחישה את האותנטיות של הנתונים הנטענים, ואמרה רק שהיא חוקרת.
העמימות היא בעצמה בעיה. עבור הקבלנים, המעסיקים והשותפים שאולי המידע שלהם מסתובב, חוסר הוודאות לגבי מה שנלקח בפועל לא מאפשר להעריך את חשיפתם.
מטה מושכת לאחור
הנשורת המסחרית הייתה מהירה. Meta עצרה את החוזים שלה עם מרקור ללא הגבלת זמן, החלטה שנעשתה בולטת יותר על ידי ההיסטוריה בין שתי החברות. לפי TechJuice, Meta המשיכה לעבוד עם מרקור גם לאחר שהוציאה 14.3 מיליארד דולר לרכישת ה-Scale AI המתחרה של מרקור, סימן לכמה היא העריכה את הקשר. זה שהפרה מנותבת דרך כלי של צד שלישי יכולה לנתק קשר כזה מדגישה עד כמה יחסי הספקים הללו הפכו שבירים.
OpenAI אישרה כי היא חוקרת את החשיפה שלה להפרה, אך בזמן הדיווח, לא השהתה את חוזי מרקור שלה. על פי הדיווחים, מספר יצרניות דגמים גדולות אחרות שוקלים את מערכות היחסים שלהן עם הסטארט-אפ, אם כי לא אושרו שמות נוספים בפומבי.
תביעות ושאלות אחריות
ההשלכות המשפטיות מתגבשות במהירות כמו ההשלכות המסחריות. חמישה מהקבלנים של מרקור הגישו תביעות בגין חשיפת נתונים אישיים לכאורה. תביעה אחת שנבדקה על ידי TechCrunch שמה את LiteLLM ואת הסטארט-אפ של תאימות בינה מלאכותית Delve כנאשמים משותפים, בטענה ש-LiteLLM השתמשה ב-Delve כדי להשיג את אישורי האבטחה שלה. הקישור הזה פותח שאלה קוצנית האם ספקי ציות נושאים באחריות כאשר הכלים שהם ערבים להם עוברים נשק מאוחר יותר.
תביעות אלו יכולות לעזור להגדיר היכן נוחתת האחריות כאשר הפרה מנותבת באמצעות תוכנת קוד פתוח, שאלה שתעשיית הבינה המלאכותית נמנעה מלענות עד כה.
משטח ההתקפה של התעשייה שלא נבדק
חוקרי אבטחה אומרים שהלקח העמוק יותר הוא מבני. מחסנית הבינה המלאכותית תלויה כעת ברשת של כלים מתווכים מהימנים, נתבים, מעריכים, שכבות תאימות ופלטפורמות תיוג שנמצאות בין ספקי מודל ללקוחותיהם. כל אחד מהם הוא נקודת חנק פוטנציאלית, ורובם זוכים לבדיקה הרבה פחות מדגמי החזית עצמם.
LiteLLM הוא המחשה. מורידים אותו מיליוני פעמים ביום, מטפל באישורים לפי עיצובו, ופועל בתוך סביבות הייצור של כמה מהחברות הממומנות ביותר בעולם. אולם חלון של 40 דקות של חבלה הספיק כדי להפוך אותו למפתח שלד. הרצף שם את כל שרשרת האספקה של AI בבדיקה, כאשר חוקרים מזהירים שכלים מתווכים מהימנים מייצגים משטח תקיפה שהתעשייה לא בחנה באופן שיטתי.
מה קורה אחר כך
השאלות המיידיות הן האם מרקור יכולה לאמת את היקף הדליפה, האם יצרניות דגמים נוספות ילכו בעקבות Meta בנסיגה, והאם תביעות LiteLLM ו-Delve מייצרות תקדים לאחריות של צד שלישי. לטווח ארוך יותר, התקרית עשויה להאיץ את הקריאות לתעשיית הבינה המלאכותית לאמץ את הסוג של כתבי תוכנה ונוהלי חתימה על תלות שמגזרי תוכנה בוגרים יותר כבר מסתמכים עליהם.
לעת עתה, הפרצה עומדת כאזהרה לכך שהפגיעויות המסוכנות ביותר בבינה מלאכותית עשויות כלל לא לחיות בתוך הדגמים, אלא בצנרת חסרת הזוהר שמחברת ביניהם.
הישאר לפני AI
האבטחה של מחסנית הבינה המלאכותית הופכת למשמעותית כמו הדגמים עצמם. סימנייה AI Buzz Wire עבור הפיתוחים האחרונים של AI וסיקור תעשיית AI.
קרא עוד חדשות AI →
