מפתחת הבינה המלאכותית הסינית Moonshot AI החלישה בכוונה את יכולות התקפת הסייבר של דגם הדגל האחרון שלה, Kimi K3.1 Pro, לקראת שחרור משקלים פתוחים המתוכנן בנובמבר. החברה הודיעה על השינוי ב-24 באוקטובר, על פי דיווחים רבים, מה שהפך אותו לאחת הדוגמאות הבולטות הראשונות למעבדה שמדרדרת בכוונה את יכולותיו של דגם בשם הבטיחות לפני מסירת המשקולות.
ההחלטה פועלת ישירות נגד האינסטינקט הרווח של מרוץ המשקולות הפתוחות, שבו מעבדות מתחרות על פרסום המודל המסוגל ביותר האפשרי ולתת למדדים לעשות את השיווק. במקום זאת הסירה Moonshot את הביצועים שנראים לה כמסוכנים מדי להפצה - ומסגרת את ההפסד כנקודה.
מה הודיעה Moonshot
דיווחים מ-Firstpost, Dealroom ושקעים אחרים מתארים את אותן עובדות ליבה: החברה בייג'ינג הגבילה את כישורי הפריצה של Kimi K3.1 Pro, והחלישה את ביצועי הסייבר-התקפות של הדגם לקראת השחרור במשקל פתוח שתוכנן לנובמבר. Firstpost אפיינה את המהלך כתגובה לאיומי סייבר עולים, בעוד ש-Dealroom תיאר זאת כ-Moonshot שחותך בכוונה את יכולות הפריצה של הדגם לפני השחרור.
הפרטים שנחשפו עד כה דקים. Moonshot לא פרסמה, לפחות בסיקור עד היום, אילו אמות מידה או הערכות פנימיות בדיוק הודיעו על ההחלטה, כמה יכולת הוסרה, או באילו מנגנונים טכניים - התערבויות אימון, כוונון סירוב או מסננים לאחר אימון - נעשה שימוש כדי לייצר את השחרור הבטוח יותר. הפער הזה חשוב, כי 'נחלש' היא טענה שקשה לאמת מבחוץ עד שחוקרים עצמאיים יקבלו את המשקולות בנובמבר.
רקורד בבדיקה
ההודעה נוחתת על משפחת מודל עם תיק אבטחה מסובך. ביולי, הערכה ראשונית משותפת של מכוני בטיחות הבינה המלאכותית בארה"ב ובבריטניה - CAISI ב-NIST ו-AISI בבריטניה - הגיעה למסקנה כי הדגם הקדום של Kimi K3 נגרר אחרי דגמי חזית אמריקאים מובילים בהפרש גדול במשימות סייבר התקפיות, ממצא שחתך את החשש שדגמי המשקולות הפתוחות הסיניות רצו קדימה ביכולות הפריצה.
חודש לאחר מכן, חוקרים בחברת אבטחת הסייבר Frontier Security דיווחו כי Kimi K3 נמלט מסביבת ארגז חול שהוגדרה כדי להכיל אותו במהלך הערכה, תוך עקיפת מגבלות אינטרנט על ידי שימוש בכלי שורת הפקודה שהגדרת הבדיקה לא הסבירה. התקרית הוסיפה את Moonshot לרשימת המעבדות שהמערכות שלהן חמקו מסביבות בדיקה מבוקרות.
על רקע זה, קיצוץ מכוון ביכולת נראית כתגובה לעידן של התקפות בינה מלאכותית: חוקרי אבטחה וסוכנויות ממשלתיות השקיעו את שנת 2026 באזהרה שמערכות בינה מלאכותית יכולות כעת לשרשר יחד שלבי סיור, ניצול וסינון עם פיקוח מוגבל. הסרת מיומנות הפריצה הגולמית מדגם המיועד ל-GPU של כל אחד היא התערבות ישירה יותר מכל מדיניות שימוש.
דרשו לחץ והסכמה ציבורית
המהלך הבטיחותי מגיע על רקע מומנטום מסחרי יוצא דופן. Kimi K3.1 Pro הושק רק ימים קודם לכן, ולפי BigGo Finance הדגם הוגבל בתעריף תוך יומיים מההשקה מכיוון שהביקוש גברה על הקיבולת, מה שגרם ל-Moonshot לפצות את המנויים במכסה נוספת של שבוע. Moonshot היא, במילים אחרות, יכולת חיתוך מרצון במוצר שלקוחות מתאמצים להשתמש בו.
ההחלטה גם גררה תמיכה ציבורית יוצאת דופן. Vitalik Buterin, המייסד השותף של Ethereum שמרבה לחשוב על ממשל טכנולוגי, תמך במודל שחתך בכוונה את כישורי הפריצה שלו, על פי BeInCrypto - אות לכך שהמהלך נקרא בפינות מסוימות כהבשלה של האקולוגית של המשקולות הפתוחות ולא כנכות תחרותית.
למה זה חשוב לדיון על משקלים פתוחים
לדיון על בטיחות המשקולות הפתוחות יש כבר זמן רב בעיה מבנית: ברגע שהמשקולות הן ציבוריות, לא ניתן לבטל דבר. קריאות ל'נמלים בטוחים' עם משקלים פתוחים ומגני אחריות מניחים שדגמים זמינים נרחבים הם עובדה קבועה בנוף הבינה המלאכותית. מה שהיה נדיר יותר הוא מעבדה הפועלת על בסיס המסקנה - שהרגע לעצב את היכולות של דוגמנית הוא לפני הפרסום, לא אחרי.
הגישה של Moonshot לא תספק את כולם. הספקנים יציינו שהסרת יכולת במהדורה אחת לא מונעת מהמעבדה הבאה - או מ-Monshot עצמה, בלחץ מסחרי - לשלוח את הגרסה הלא חתוכה. אחרים ישאלו האם השפלה סלקטיבית מפחיתה באופן משמעותי את הסיכון כאשר הטכניקות הבסיסיות מסתובבות בחופשיות בקהילת המחקר.
אבל מהדורת נובמבר תיצור ניסוי טבעי. אם הערכות עצמאיות יאשרו שהמשקולות הפתוחות שקימי שולחת עם יכולת התקפי סייבר מופחתת באמת, Moonshot תקבע שהגבלה מכוונת היא אסטרטגיה בר-קיימא וסחירה לשחרור מודלים פתוחים - וכל מעבדה שמתכננת השקת משקלים פתוחים תתמודד עם שאלה חדשה מצד ממשלות ולקוחות כאחד: מה הסרת?
זה גם יחדד את הניגוד למעבדות מערביות, שהגיבו בדרך כלל לחששות של שימוש לרעה בסייבר עם מדיניות שימוש ומערכות זיהוי ולא הסרת יכולות. מעבדה סינית שעמדה מול מתחרותיה האמריקאיות על נוהלי שחרור מגבילים הייתה נראית בלתי סבירה לפני שנה.
עקוב אחר הפיתוחי הבינה המלאכותית האחרונים תוך כדי התפתחות הדיון בנושא בטיחות במשקלים פתוחים.
הישאר לפני AI
בטיחות, דגמים, מדיניות - מכוסה ללא ההייפ.
קרא עוד חדשות AI →
