Nvidia מרכיבה בשקט צוות הנדסת בטיחות ואבטחה בינה מלאכותית חדשה, על פי מקבץ של רשימות משרות שפורסמו בסוף החודש שעבר, מאותתות שענקית השבבים שמה את הבטיחות בראש סדר העדיפויות גם כשהיא מהמרת באגרסיביות על עתיד שעוצב על ידי מודלים בעלי משקל פתוח וסוכנים אוטונומיים.
דחף הגיוס, שדווח על ידי Business Insider, מראה ש-Nvidia מחפשת "מהנדס מכובד" שישמש כמנהיג טכני מייסד של הצוות החדש שהורכב, לצד מהנדס מחקר אבטחה ומומחים אחרים. המהלך מגיע כאשר החברה מעמיקה את מחויבותה לבינה מלאכותית במשקל פתוח וכאשר התעשייה הרחבה יותר מתמודדת עם גל של תקריות אבטחה הכוללות מערכות בינה מלאכותית. עבור הקוראים שעוקבים אחר מחזור חדשות הבינה המלאכותית, הפיתוח הוא איתות מובהק: החברה המוכרת את המבחר והאתים של הבהלה לזהב של הבינה המלאכותית רוצה כעת יד רחבה יותר לוודא שהכלים האלה בטוחים לשימוש.
מה חושפים רשימות המשרה
לפי Business Insider, הצוות החדש מתואר ברישום אחד כנטוע בעקרונות של פיתוח AI מאובטח. Nvidia מגייסת מהנדס מכובד שישמש כ"מנהיג טכני מייסד" של הקבוצה, ניסוח המצביע על כך שהצוות נבנה מהיסוד ולא מורחב מיחידה קיימת. החברה שוכרת גם מהנדס מחקר אבטחה המתמקד בבינה מלאכותית.
הגיוס מצביע על כך ש-Nvidia הופכת את בטיחות הבינה המלאכותית לעדיפות רשמית מכוונת יותר, שכן היא נשענת על אסטרטגיה המתמקדת במודלים בעלי משקל פתוח וסוכני בינה מלאכותית. מודלים בעלי משקל פתוח הופכים את ה"משקולות" המאומנות שלהם - הפרמטרים שקובעים כיצד מודל מתנהג - לזמינים לציבור, גם אם נתוני האימון וקוד המקור שלהם נשארים פרטיים. הפתיחות הזו מאיצה חדשנות ומאפשרת למפתחים להריץ מודלים על חומרת Nvidia, אבל היא גם מעלה שאלות אבטחה שמערכות סגורות ומגודרות API יכולות לעקוף אותן.
מדוע דגמי משקל פתוח מעלים את ההימור
מודלים בעלי משקל פתוח תופסים עמדה מסובכת בדיון בנושא בטיחות בינה מלאכותית. על ידי שחרור משקלים לציבור, מעבדות מאפשרות לקהילה גלובלית של חוקרים ומפתחים לבדוק, לכוונן ולפרוס מודלים רבי עוצמה - לעתים קרובות על ה-GPUs של Nvidia עצמה. הפתיחות הזו היא ברכה אמיתית לקידמה המדעית ולעסקים של Nvidia. אבל זה גם אומר שברגע שהמשקולות נגמרות, המעבדה מאבדת שליטה על אופן השימוש, שינוי או שימוש לרעה במודל.
שחקן זדוני שמוריד דגם בעל משקל פתוח יכול לנסות להסיר את מעקות הבטיחות, לייעד מחדש את הדגם למתקפות סייבר, או לשלב אותו עם כלים אחרים בדרכים שיוצריו מעולם לא התכוונו. בניגוד למודל המוגש מאחורי API - שבו המפעיל יכול לפקח על השימוש, להגביל בקשות לקצב ולבטל גישה - מודל בעל משקל פתוח פועל בכל מקום שלמישהו יש את החומרה להפעיל אותו. זו בדיוק הסיבה שחברה כל כך מושקעת בבינה מלאכותית פתוחה תרצה גם צוות בטיחות ואבטחה ייעודי: שתי האסטרטגיות הן שני צדדים של אותו מטבע.
האינטרסים המסחריים של Nvidia ותנוחתה הבטיחותית קשורים אפוא קשר הדוק. ככל שהחברה מעודדת יותר אימוץ במשקל פתוח, כך היא מרוויחה יותר מכך שהיא נתפסת כמנהלת אחראית של אותה מערכת אקולוגית.
התחשבות רחבה יותר בתעשייה על אבטחת בינה מלאכותית
הצוות החדש לא מגיע בחלל ריק. הגיוס של Nvidia עולה בקנה אחד עם תקופה שבה אבטחת AI עברה מחשש מופשט לבעיה קונקרטית וחוזרת על עצמה. בשבועות האחרונים נראתה סדרה של תקריות בפרופיל גבוה שבהן סוכני בינה מלאכותית הוכיחו את היכולת לפעול באופן אוטונומי בדרכים שהמפתחים שלהם לא ציפו מראש, כולל מקרים שבהם מערכות שנבדקו למטרות אבטחת סייבר התנהגו באופן בלתי צפוי.
Nvidia עצמה עמדה במרכזה של תגובה בתעשייה. החברה סייעה לאחרונה להוביל ברית AI פתוחה ומאובטחת המאגדת יותר מ-30 חברות כדי לבסס שקיפות ובטיחות סייבר, עבודה שהיא קידמה במהירות. נראה שצוות הבטיחות הפנימי החדש הוא ההשלמה הפנימית לאותה קואליציה חיצונית: דרך להקשיח את התרומות של Nvidia עצמה לתנועת ה-AI הפתוחה.
הניגוד עם כמה יריבים בולט. מספר מעבדות גבול הדגישו הגבלות, בקרות גישה ופריסות סגורות כמנגנוני הבטיחות העיקריים שלהן. הגישה של Nvidia - משקולות פתוחות בשילוב עם מנגנון בטיחות הולך וגדל - משקפת פילוסופיה שונה: שפתיחות וביטחון אינם הפכים, ושצוות בטיחות בעל משאבים טובים יכול להפוך מודלים פתוחים לברי קיימא.
מה זה מאותת על האסטרטגיה של Nvidia
עבור Nvidia, החשבון ברור. הליבה של החברה היא מכירת החומרה שמפעילה AI, ודגמים בעלי משקל פתוח הם מניע רב עוצמה לביקוש לחומרה: כאשר כל אחד יכול להוריד דגם מסוגל, כל אחד עם תקציב הופך ללקוח פוטנציאלי של Nvidia. השקעה בבטיחות בינה מלאכותית מגנה על גלגל תנופה זה על ידי הפחתת הסיכון שדגמים פתוחים יהיו קשורים לנזקים שעלולים להזמין רגולציה כבדה או תגובה צרכנית.
בניית צוות הנדסת בטיחות ואבטחה ייעודי היא גם אות גיוס עובדים. לחוקרי בטיחות מובילים בינה מלאכותית יש ביקוש יוצא דופן, וצוות אמין בראשות מהנדס מכובד יכול לעזור ל-Nvidia למשוך כישרונות שאחרת עלולים להימשך למעבדת חזית. כישרון זה, בתורו, יכול לעצב סטנדרטים בתעשייה - לתת ל-Nvidia השפעה על הכללים של מערכת האקולוגית הפתוחה של AI שהיא עוזרת לבנות.
הדרך קדימה
Nvidia לא פירטה מפת דרכים ציבורית לעבודת הצוות החדש, והרישומים מראים שהקבוצה עדיין מתגבשת. אבל אין לטעות בכיוון. ככל שסוכני בינה מלאכותית מגדילים יותר מודלים בעלי משקל פתוח בפריסה רחבה יותר, החברה שמפעילה חלק גדול מה-AI העולמי אוספת כעת את האנשים כדי לעזור לשמור על הכוח הזה בשליטה.
החודשים הקרובים יראו אם הימור הבטיחות של Nvidia יכול לעמוד בקצב השאיפות המסחריות שלה - והאם עתיד AI פתוח יכול להיות חדשני ובטוח כאחד.
הישאר לפני AI
המפגש בין בטיחות בינה מלאכותית, דגמים פתוחים וחומרה נע במהירות. עקוב אחר סיקור תעשיית הבינה המלאכותית שלנו לדיווח שוטף על Nvidia, מעבדות הגבול והמדיניות שמעצבת אותן.
קרא עוד חדשות AI →
