פעולת עוקץ בקנה מידה גדול נגד הצנרת של תעשיית הבינה המלאכותית תיעדה מה קורה להנחיות שמשתמשים שולחים מדי יום - והתשובה היא: הן דולפות. חוקר האבטחה HD מור, קצין המחקר הראשי של חברת האבטחה התעשייתית Dragos, שלח כמעט שני מיליון הנחיות בינה מלאכותית המכילות סודות ייחודיים ניתנים למעקב לספקי בינה מלאכותית ולאחר מכן צפה היכן הסודות הללו צצו. "מה שמצאנו חשף פרצות אבטחה, גניבה מיידית וכישלונות נרחבים בהגנה על נתוני לקוחות", כתב מור בדו"ח שפורסם ביום חמישי.

הממצאים, שדווחו בפירוט על ידי Ars Technica, מגיעים כאשר נתבי בינה מלאכותית - שירותי ברוקרים כמו OpenRouter ו-Vercel שמקבלים הנחיות ממשתמשי קצה ומנתבים אותם לכל ספק ההסקות שהוא הזול ביותר או המתאים ביותר - הפכו לתשתית ליבה לאלפי יישומים. הם גם עוררו תגובה מהירה בתעשייה: OpenRouter פרסמה הודעת תקרית משלה ב-22 בנובמבר, ואמרה שהיא עזבה שלושה ספקים, הסירה 125 נקודות קצה מהזכאות לאפס שימור נתונים והודיעה ללקוחות שעלולים להיות מושפעים.

איך פעלה המלכודת הקנרית

מור הרכיב אוסף של מפתחות גישה מתפקדים של AWS הקשורים לחשבונות ריקים, סיסמאות SSH פועלות וכתובות URL ייחודיות, שמות DNS והפניות למאגר git פרטי. אף אחד מהסודות לא היה בשימוש קודם לכן, ומור שלט בתשתית בצד הקולט. כל סוד נזרע לתוך הנחיה אחת בדיוק שנשלחה לספק יחיד - כך שאם הסוד צץ מאוחר יותר בכל מקום, ניתן היה לאתר את המסע שלו אל החוליה המדויקת בשרשרת האחראית.

העיצוב חשוב בגלל האופן שבו מערכת האקולוגית של AI מעבירה נתונים בפועל. ההנחיות מוצפנות במעבר, אך הן מפוענחות בכל דילוג. נתב AI קורא את הטקסט הפשוט כדי לבחור ספקי מסקנות מתאימים; לאחר מכן, ההנחיה מועברת לעתים קרובות למאגר של דגמים, לפעמים פועל בתוך חברות אירוח שונות. הנחיות יכולות אפילו לעבור מנתב אחד למשנהו - Vercel ל-OpenRouter, למשל - כאשר כל מתווך חופשי להתחבר ולאחסן את התוכן במסגרת המדיניות שלו.

שלושה ספקים נפרצו, המפתחות בשימוש תוך שעות

הממצא המדאיג ביותר כלל שלושה ספקי אירוח נפרדים שנפגעו במהלך הניסוי. לדברי מור, תוקפים שפרצו ספק אחד עשו שימוש חוזר ב"כמה מאות" ממפתחות ה-AWS שתולים. כל מפתח נשלח בדיוק בבקשה אחת לספק אחד, תוך כמה חלונות קצרים בסוף אוקטובר - ו"כל בקשה ששלחנו במהלך החלונות האלה נגנבה". באופן מכריע, כמה מפתחות גנובים הגיעו מבקשות שהספק דחה לפני שדגם רץ אי פעם, מה שמצביע על כך שהתוקף מעתיק תנועה בדלת הכניסה של הספק ולא עמוק יותר בערימת ההסקות.

בשתי ההפרות האחרות, חלק מהבקשות הגנובות סומנו כאפס שמירת נתונים. "דגל פרטיות לא עוזר כשהתוקף כבר בפנים", כתב מור. הצדדים מאחורי הפריצות בדקו את מפתחות הפיתיון תוך שעות, בחלק מהמקרים, חיפשו בדליים של S3, מנהלי סודות וחנויות פרמטרים לקבלת אישורים נוספים, ניסו לאפשר דגמים מתארחים ב-AWS Bedrock, והוסיפו משתמשי IAM משלהם כדי לשמור על גישה. בסך הכל, המפתחות הגנובים שימשו "עשרות אלפי" פעמים בקריאות API של AWS. סודות שנגנבו משניים מהספקים שנפרצו שימשו יחד, כמעט מיד, מאותו שרת שכור - עדות חזקה לכך שיריב אחד סיכן את שניהם.

משווקים שגונבים ומעבדה שמגרדת

לא כל מדליף היה האקר. מור תיעדה משווקים שפיתחו הנחיות במחירים נמוכים, הפעילו רישום בקשות ופשוט המתינו. הוא זיהה אותם על ידי שליחת בקשות זהות לאותו דגם דרך מוכרים שונים: כאשר נעשה שימוש חוזר באישורים של מוכר אחד אך לא אחר, האשם היה ברור.

מקרה הגרידה המובהק ביותר, כתב מור, כלל מעבדת בינה מלאכותית סינית שהמערכות שלה הביאו את כתובות ה-URL הסודיות מיותר ממחצית מההנחיות שנשלחו לדגמים שלה בין יולי לאוקטובר - כולל כשני שלישים מהבקשות שסומנו במפורש "אין איסוף נתונים" או שמירת נתונים אפס. המגרד הופיע בדרך כלל יומיים או שלושה לאחר כל בקשה. זה לא היה מוגבל ללקוחות ישירים: כמה ספקי אירוח בארה"ב מוכרים מחדש את הדגמים של המעבדה, והנחיות שנשלחו דרך אותם מתווכים אמריקאים הפעילו את אותו מגרד בדיוק. לקוח שבחר ספק אמריקאי במיוחד כדי לשמור נתונים בצד המדינה, במילים אחרות, לא קיבל את מה ששילם עבורו. בנפרד, לקוח git בענן אחר החל לנסות לשכפל את המאגרים הפרטיים שאליהם מתייחסים ההנחיות - אבל רק עבור הנחיות שהשתמשו במודלים של המעבדה הזו.

OpenRouter מגיב

הניסוי הניב במהירות השלכות בעולם האמיתי. Ars Technica דיווחה בעדכון ש-OpenRouter שלחה אימייל ללקוחות ב-21 בנובמבר והזהירה שייתכן שחלק מההנחיות שלהם נקראו, תוך ציטוט של המחקר: החשיפה הפוטנציאלית כללה הודעות שנשלחו ל-MiniMax, ספקית דגמים בסין, בין אם ישירות ובין אם דרך שלושה משווקים - AtlasCloud, Novita ו-StreamLake. OpenRouter הסיר את התווית "אפס שמירת נתונים" מנקודות הקצה של דגם MiniMax.

בפוסט הרשמי שלו בבלוג ב-22 בנובמבר, OpenRouter אישרה שהיא עזבה שלושה ספקים, הסירה 125 נקודות קצה מהזכאות ל-ZDR, והודיעה למשתמשים המושפעים אם הספקים פרסמו בפומבי או לא. החברה אמרה שהממצאים "לא הראו שום הפרה או גישה לא מורשית ל-OpenRouter" עצמה, הודתה לצוות Dragos ואמרה שספקים המעוניינים להישאר בפלטפורמה "יצטרכו לעמוד ברף אבטחה עולה מכיוון ש-OpenRouter משלב טכניקות בדיקה דומות.

מור מצאה גם דליפות ארוכות זנב תועה: ספק אירוח אחד בארה"ב סרק כתובת URL סודית יותר מחודשיים לאחר שיחת מסקנות בודדת לנקודת הקצה של החיפוש שלו, ואחר הפעיל מגרד שחזר עבור כתובות URL שתול ימים לאחר כל בקשה, ללא קשר לנתב שמסר את ההנחיה.

מה משתמשים יכולים לעשות

ההגנה היעילה ביותר, אמר מור, היא אירוח מודלים במקום - אפשרות יקרה שמעט ארגונים יכולים להצדיק. המדד הטוב הבא הוא רכישה ישירות מספק מדרגה ראשונה, עם "חוזה אחד ומדיניות פרטיות לקריאה", והימנעות ממאגר ספקים או משווקים ברירת מחדל על ידי בחירת ספקים במעלה הזרם בעצמך. גם אז, הוא הזהיר, אין ערובה שהנתונים לא ידלפו.

הניסוי הוא כתב האישום החריף ביותר עד כה נגד נוהלי פרטיות ברחבי שוק ההסקות הצומח במהירות: השרשרת בין אפליקציה למודל יכולה כעת לכלול נתבים, משווקים ושכבות אירוח במספר יבשות, שלכל אחת מהן מדיניות רישום משלה, והתוויות שנועדו להרגיע את הלקוחות - כמו אפס שמירת נתונים - ניתנות להפסקה או ביטול ללא הודעה מוקדמת. עבור תעשייה שמבקשת מארגונים להדביק את המסמכים, הקוד והאישורים שלהם בהנחיות, המסר של שני מיליון הכנריות הוא לא נוח: עד שהצנרת מתחלפת, נניח שכל הופ יכול לקרוא כל מילה.

הישאר לפני AI

אבטחה ופרטיות הן כעת דאגות הליבה לכל מי שבונה על AI. לחדשות AI וסיקור עצמאי של הסיפורים הגדולים בתעשייה, בקר ב-AI Buzz Wire.

קרא עוד חדשות AI →