למייסד ומנכ"ל Mistral AI, ארתור מנש, יש תגובה בוטה לאזעקת הבטיחות ששוטפת את תעשיית הבינה המלאכותית: בינה מלאכותית היא תוכנה וניתן לשלוט בתוכנה.
בראיון שפרסם העיתון הצרפתי Le Monde ב-24 בספטמבר, טען ראש סטארט-אפ הבינה המלאכותית הבולט באירופה כי ענקיות הטכנולוגיה האמריקאיות מגזימות בסיכוני הבינה המלאכותית כדי להצדיק מערכות סגורות וקנייניות ולנעול את השוק. החברה שלו, לדבריו, נוקטת בהימור ההפוך: דגמים בעלי משקל פתוח, תשתית אירופית והעמדה לפיה ניתן לנהל את הסכנות של הטכנולוגיה באמצעות הנדסה רגילה ולא פחד יוצא דופן. For more context on this story, see our ongoing AI industry coverage.
'ניתן לשלוט בזה'
הראיון לה מונד, שפורסם תחת הכותרת "AI היא תוכנה, ניתן לשלוט בה", מגיע לרגע שבו אירועי אבטחה הקשורים לסוכנים שלטו במחזור החדשות של AI במשך חודשים. מנש התייחס ישירות לאקלים הזה, וטען כי תקריות כמו הפרת שרת יולי מחבקי פנים נוצלו בוויכוח הציבורי על ידי חברות גדולות בארה"ב כדי לטעון שרק דגמים סגורים מוגבלים בהחלט יכולים להיות מופעלים בבטחה.
המסגור הזה, לדבריו של מנש, מקשר בין כשלי אבטחה תפעוליים לבין ויכוח על הטכנולוגיה עצמה. עמדתו, כפי שמסוכמת בסיקור הראיון, היא שמערכות בינה מלאכותית הן מוצרי תוכנה שניתן לבקר, להגביל ולבקר כמו כל תוכנה אחרת, ושפתיחות תואמת לבטיחות ולא מנוגדת לה.
הטיעון מעמיד את מיסטרל בסתירה עם העמדה הציבורית של כמה יריבות אמריקאיות, שהגיבו לשורה של פרקי התנהגות שגויה של סוכנים השנה עם אמצעי הגנה מתוגברים, גישה מוגבלת ומסגרות גילוי חדשות.
משקולות פתוחות כהימור אסטרטגי
ההערות של Mensch נשענות על האסטרטגיה שנקטה מיסטרל מאז הקמתה ב-2023: שחרור דגמים עם משקלים זמינים בגלוי שלקוחות יכולים להוריד, לכוונן, לפרוס על התשתית שלהם ולבדוק.
בסיקור הראיון, גישה זו מוסגרת כתשובה ישירה לשאלה מי שולט במערכות AI. משקלים פתוחים מאפשרים בחינה עצמאית של מה מודל עושה, פריסה פרטית מרחיקה נתונים רגישים משרתים של צד שלישי, והיכולת לשנות מודל נותנת ללקוחות יציאה מנעילת הספק. הפשרה, מציינים המבקרים, היא שמשקולות זמינות בגלוי יכולות לשמש גם כל אחד, כולל שחקנים עם כוונות זדוניות, ומיסטרל חייבת להתחרות הן על היכולת והן על המערכת האקולוגית עם מעבדות אחרות במודל פתוח.
ה-Compute Push של אירופה ותיבת המלחמה של 3 מיליארד יורו
הראיון נגע גם בשאלת התשתית שעומדת בבסיס שאיפות ה-AI של אירופה. Mensch תמך בערבויות מדינה כדי לפשט את המימון למרכזי נתונים אירופיים, מנגנון מדיניות שמטרתו להפחית את התלות של היבשת על ספקי ענן בארה"ב עבור מחשוב בינה מלאכותית.
עמדתה של מיסטרל לטעון את הטיעון הזה התחזקה על ידי המימון האחרון שלה. החברה גייסה 3 מיליארד יורו בסבב סדרה D בהובלת Samsung Electronics יחד עם קרן Scaleup Europe הנתמכת על ידי האיחוד האירופי, הערכת שווי שהציבה את החברה מעל 21 מיליארד יורו. בנפרד, מיסטרל כרתה עסקה של מיליארדי דולרים עם מיקרוסופט להרחבת תשתית Azure באירופה, אם כי הסדר זה קושר את אלופת אירופה ל-hyperscaler אמריקאי בטווח הקרוב, מתח שמשקיפים בסצנת הטכנולוגיה האירופית לא פספסו.
מנש הזהיר בעבר כי לאירופה יש חלון מוגבל, בערך שנתיים לפי הערכתו, למנוע תלות קבועה בבינה מלאכותית בארצות הברית, והדחיפה של המימון והתשתית ממוקמת כתגובה ישירה לתאריך היעד הזה.
רטוריקת בטיחות פוגשת גישה לשוק
המהות של הטיעון של מנש הוא מסחרי באותה מידה שהוא פילוסופי. אם מתייחסים ל-frontier AI כאל סיכון קיומי הדורש גישה מבוקרת הדוק, השוק מתגבש סביב קומץ חברות בעלות המשאבים לספק APIs מוגבלים תחת משטרי ציות כבדים. אם מתייחסים לבינה מלאכותית כאל תוכנה הניתנת לשליטה, ספקי משקל פתוח יכולים להתחרות על מחיר, פרטיות והתאמה אישית.
זו הסיבה שהוויכוח על מידת הסיכון של AI הפך, למעשה, לוויכוח על מבנה השוק. הטענה של מנש ללה מונד היא שהפחד מופעל בצורה אסטרטגית, ושאירועי הקיץ אומרים יותר על האבטחה התפעולית של חברות בודדות מאשר על יכולת השליטה של הטכנולוגיה כולה.
הספקנים טוענים כי משקולות פתוחות מקשות על מניעת התעללות וכי תקריות הסוכנים האחרונות בתעשייה, שכללו גישה לא מורשית ודליפות נתונים, מוכיחות שאפילו מעבדות בעלות משאבים טובים נאבקות לשלוט במערכות שלהן. לא סביר שהמחלוקת תוסדר על ידי ראיון בודד.
במה לצפות בהמשך
מיסטרל אמרה שהיא מתכננת לשלוח דגם חדש במשקל פתוח, והראיון של מנש מוסיף לציפיות שהחברה מתכוונת לעמוד בקצב של מעבדות הגבול בעודה פתוחה. כמו בכל טענה מוקדמת לשחרור, המבחן המשמעותי יגיע כאשר הדגם יישלח ואמות מידה עצמאיות יוכלו לאמת היכן הוא באמת עומד.
לעת עתה, הראיון של לה מונד מחדד קו מפריד בתעשייה. מחנה אחד רואה בהתנהגות שגויה של סוכנים לאחרונה עדות לכך שבינה מלאכותית זקוקה לשליטה קפדנית יותר וגישה מוגבלת. השני, המיוצג על ידי מעבדת הבינה המלאכותית המובילה באירופה, רואה תוכנות ניתנות לשליטה שהסיכונים שלה הם אמיתיים אך ניתנים לניהול, ושאין לנעול את היתרונות שלה מאחורי קומץ דלתות סגורות.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
