OpenAI פרסמה ביום חמישי את החשבון המפורט ביותר שלה עד כה על האופן שבו היא מזהה ומשבשת "זיקוק יריב" - שימוש לא מורשה בתפוקות של מודל חזיתי כדי להכשיר מערכת מתחרה - ולפי דיווחים רבים, החלה לדרוש משערים ומשווקים של צד שלישי לקבל את אישורו לפני מתן גישה ישירה לדגמים שלו.
המהלכים, המתוארים בפוסט בבלוג של OpenAI שכותרתו "מאבק בזיקוק יריב" ובסיקור של Semafor ו-eWeek, מסמנים הידוק משמעותי של האופן שבו החברה שולטת במי שיכול להפיץ מחדש את יכולות המודלים שלה - שינוי עם השלכות אמיתיות על המפתחים, הסטארט-אפים והארגונים שניגשים למערכות OpenAI באמצעות מתווכים.
מדוע OpenAI מתייחסת לזיקוק כבעיית בטיחות
זיקוק היא טכניקת למידת מכונה סטנדרטית שבה מודל אחד לומד מהתפוקות של אחר. בפני עצמו, מציינת OpenAI, זה לא אסור ולא חריג. הדאגה של החברה היא מה שהיא מכנה זיקוק יריב: שחקן המשתמש בתפוקות של מודל גבול ללא הרשאה כדי להכשיר דגם אחר עם יכולות דומות, ואז לפרוס אותו ללא אמצעי הגנה דומים.
בפוסט הבלוג שלה, OpenAI טוענת שהסיכון ברור ביותר בתחומים דו-שימושיים כמו אבטחת סייבר וביולוגיה. מודל שעוזר למגנים למצוא פרצות תוכנה יכול, לאחר העברת כישוריו למערכת עם מעקות בטיחות חלשים יותר, לעזור לתוקף לנצל אותם. "יריב עלול לזקק את יכולות הסייבר של המודל ולהשתמש במודל המתקבל כדי לסייע בביצוע התקפות סייבר שהדגם המקורי היה מסרב לסייע בהן", כתבה החברה.
הגנה על שרשרת המחשבה
במרכז ההגנה של OpenAI עומדת מה שהיא מכנה חשיבה מוגנת: שלבי הביניים - שרשרת המחשבה - מודל מייצר פנימי תוך כדי עבודה לקראת תשובה. עקבות אלה, מסבירה החברה, יכולים להכיל מידע שהתשובה הסופית משאירה בחוץ, מה שהופך אותם לבעלי ערך במיוחד כנתוני אימון עבור מודל של מעבדה אחרת.
OpenAI אומרת שהיא חיזקה את ההגנות שלה מפני מיצוי עקבות חשיבה ב-GPT-6.2 Astra ו-GPT-6.2 Sol. בהערכה אדפטיבית פנימית תוך שימוש ב-red-teaming אוטומטי, החברה דיווחה ששיעור ההצלחה הממוצע של ההתקפה לשחזור היגיון מוגן ירד מ-54.0% מול GPT-6 Astra עם אמצעי ההגנה המקוריים שלה ל-0.2% מול GPT-6.2 Astra עם ההגנות המעודכנות.
מה מצא מחקר הסייבר הפנימי שלו
החברה גם שיתפה תוצאות ממחקר פנימי של האופן שבו יכולות סייבר מועברות במהלך הזיקוק. מודלים של תלמידים כוונו היטב על מסלולים שהופקו על ידי מודלים של מורים העובדים על קידוד ומשימות אבטחת סייבר הגנתיות. סטודנטים שעברו הכשרה על עקבות נימוק מדויקים בדרך כלל היו טובים יותר מסטודנטים שהוכשרו רק בסיכומי נימוקים, הן לאחר כוונון עדין בפיקוח והן - בתקציבי ההסקה הגדולים ביותר שנבדקו - לאחר סבב נוסף של למידת חיזוק, על פי מדדים ש-OpenAI מוצג לצד הפוסט.
המשמעות מפוכחת עבור כל מי שמקווה שניתן להכיל את העברת היכולות על ידי פרסום תפוקות מחוטאות: אפילו אינטראקציות המותרות במסגרת מדיניות השימוש יכולות, במצטבר, ללמד תלמיד מיומנויות שמכלילות מעבר למשימות שהמורה ביצע במקור.
שערים ומשווקים זקוקים כעת לאישור
הצעדים הטכניים מגיעים לצד שינוי מדיניות. החל מיום חמישי, OpenAI תדרוש נתבים ושערים של מודל AI המעניקים לצדדים שלישיים גישה ישירה לדגמים שלה כדי לקבל אישור מוקדם, כך דיווח eWeek. הדרישה מתבססת על הכרזה שהחברה פרסמה באוקטובר, המפרטת כיצד הגנות בטיחות צריכות לחול כאשר לקוחות ניגשים לדגמים שלה ישירות או דרך שותפי אירוח ומשווקים.
לפי הסיכום של eWeek של אותה מסגרת, השירותים המשתתפים צפויים לשמור על סטנדרטים דומים כך שמשתמשים לא יכולים פשוט להחליף ספק כדי להתחמק מהגבלות. האמצעים משתרעים על פני שלושה שלבים: הערכות סיכונים ובדיקות נגד ניסיונות לעקוף הגנה לפני פריסה; ניטור במהלך השימוש, עם שותפים הצפויים לחקור פעילות חשודה; וצעדי אכיפה לאחר התרחשות הפרות. Semafor אפיינה את השינוי כ-OpenAI המהדקת את אחיזתה באקו-סיסטם של מפיצים שצמח במהירות סביב ה-API שלה.
מה זה אומר עבור מפתחים
עבור מפתחים, ההשפעה המעשית היא שאלת ציות חדשה שיש להוסיף לבדיקת הנאותות של הספקים: האם מתווך המציע מודלים של OpenAI אכן מורשה לעשות זאת. עסקים המנתבים תנועה דרך אגרגטורים צריכים לאשר את סטטוס האישור של הספק שלהם ואת האופן שבו הוא מטפל באישורים ובנתונים, ייעץ eWeek.
עבור התעשייה הרחבה יותר, ההכרזה היא איתות לכך שספקי דגמים רואים יותר ויותר את השליטה ביכולות הנגזרות - לא רק את הדגמים עצמם - כהיקף שחשוב. סכסוכי זיקוק התלקחו ברחבי התחום בשנים האחרונות, ו-OpenAI מציגה כעת את תגובתה לא כסכסוך רישוי אלא כדרישת בטיחות, תוך התאמה של הגנת הזיקוק עם הבקרות שהיא מפעילה על סיכוני ביולוגיה ואבטחת סייבר.
הדרך קדימה
OpenAI אומרת שהיא תמשיך ללמוד כמה יכולת מועברת על פני מודלים שונים של תלמידים ומתכוני זיקוק, והיא מזמינה מעבדות אחרות להתבסס על עבודת האיתור והאכיפה שלה. האם יריבים יאמצו משטרי אישור שערים דומים - והאם המשתמשים מקבלים את החיכוך הנוסף - יעזור לקבוע כיצד נבנה הדור הבא של מערכות AI, ומי רשאי לבנות אותן.
הישאר לפני העקומה
רוצה את העדכון העדכני ביותר על דגמי AI, בטיחות ומדיניות בזמן שזה קורה? עקוב אחר חדשות בינה מלאכותית ב-AI Buzz Wire.
קרא עוד חדשות AI →