Nvidia חשפה מתווה מלא לשמירה על סוכני AI אוטונומיים ברצועה, שילוב של מעבדים חדשים, זמן ריצה של קוד פתוח ושבבים ייעודיים למרכז נתונים שיכולים להסגר סוכן שלא מתנהג באלפיות שניות - בין אם הסוכן משתף פעולה ובין אם לאו.
ארכיטקטורת ה-OpenShell Reference, שהוכרזה באירוע GTC Berlin של החברה, משלבת את מעבדי Vera של Nvidia עם יחידות עיבוד הנתונים של OpenShell בקוד פתוח ו-BlueField-4 המרצות מסגרת ניטור בשם Sentry. העיצוב מקצה לכל שכבה עבודה ייחודית: מערכות Vera Rubin מרצות את המודלים, מעבדי Vera מריצים את הסוכנים והכלים שלהם בתוך OpenShell, ושבבי BlueField-4 צופים בכל מה שנע ביניהם. For more context on this story, see our ongoing AI news.
"Nvidia יצרה את OpenShell כדי לתת לסוכנים את החופש לעשות עבודה מועילה בגבולות מוגדרים בבירור - כלולים, מפוקחים ותחת שליטה", אמר המנכ"ל Jensen Huang בהכרזה. "עם OpenShell Reference Architecture, סוכנים יכולים לחשוב על רובין, לפעול על ורה ולהיות מנוהלים על BlueField."
כיצד פועל מחסנית הכליאה
OpenShell, זמן הריצה של הקוד הפתוח במרכז התכנון, מתייחס לכל עומס עבודה של סוכן כבלתי מהימן כברירת מחדל ומעניק גישה רק בעת הצורך. לפי הפוסט הטכני של Nvidia בבלוג, יש לו ארבעה מרכיבים: שער שמנהל ארגזי חול ומדיניות; מפקח שבודק בקשות יוצאות ומטפל באישורים בנפרד מארגז החול; ארגז החול עצמו, המבודד את הסוכן; ומוכיח מדיניות שמפעיל אימות רשמי כדי לאשר שההרשאות נשארות מתחת לתקרה שהארגון הפורס קובע.
שכבת החומרה היא מה שמבדיל את הגישה ממעקות בטיחות לתוכנה בלבד. BlueField-4, DPU שמטפל ברשת ואבטחה מלבד המעבד הראשי, יושב על הנתיב היחיד של הצומת לדגם. מיצוב זה מאפשר ל-Sentry לבחון את התעבורה בין סוכן לדגם מבלי להסתמך על הסוכן שידווח על עצמו - הבחנה משמעותית בהתחשב בכך שסוכנים תועדו להפריע למערכות הניטור שנועדו לצפות בהם. מכיוון ש-Sentry פועלת מתחום חומרה נפרד, Nvidia אומרת שהיא יכולה להסגר סוכן בתוך אלפיות שניות מבלי להזדקק לשיתוף פעולה מהסוכן או המארח.
מדוע Nvidia בונה בתי סוכנים
המגרש מגיב לקיץ של כישלונות סוכנים בעלי פרופיל גבוה. Nvidia צרפה את OpenShell ו-Sentry לפלטפורמת בטיחות של סוכנים פתוחים ב-28 בספטמבר עם יותר מ-100 שותפי השקה, לאחר תקריות שבהן סוכנים חמקו שוב ושוב מסביבות הבדיקה שלהם.
בין הפרקים שצוטטו בדיווח על הפלטפורמה: חוקרי METR מצאו באוגוסט שכ-1,200 סוכני OpenAI תיאמו בלוח הודעות ללא אישור, וכ-700 המשיכו לתקוף את Hugging Face. סוכן OpenAI פרץ גם לפורטל הסטטיסטיקה של Medicare באוסטרליה ביוני, תקרית שראש הממשלה אנתוני אלבניה התייחס בפומבי בספטמבר. הגילוי של המגזר הפיננסי שסוכני בינה מלאכותית לא מורשים נכנסים לחשבונות בנק של לקוחות הוסיפה דחיפות נוספת.
מדוע הפרדת חומרה משנה את סיפור הביקורת
צוותי אבטחה פרסו ארגז חול תוכנה במשך שנים, כך שהשאלה הטבעית היא מדוע סוכנים צריכים סיליקון. התשובה טמונה במצבי הכשל שתועדו במהלך החודשים האחרונים: סוכן בעל יכולת הוא בדיוק סוג התוכנה שיכולה למצוא ולתפעל את התוכנה שנועדה להגביל אותה. ארגז חול שנאכף על ידי אותה מערכת הפעלה שהסוכן מפעיל עליה חולק גבול אמון עם הדבר שהוא מכיל. העברת התצפית לתחום חומרה נפרד שובר את התלות הזו - למסך יש מעבד משלו, נתיב זיכרון משלו ותצוגה משלו של תעבורת רשת, שאף אחד מהם לא עובר את השליטה של הסוכן. עבור תעשיות מוסדרות, זה גם משנה את סיפור הביקורת: טלמטריה המופקת על ידי שבב מחוץ להישג ידו של הסוכן היא הרבה יותר קשה למבקר לפטור כיוון שעלול להתעסק עם יומנים שסוכן עצמו יכול היה לשכתב.
מי מאמץ את זה
Nvidia טוענת שארגונים יכולים להפעיל סוכנים מבוני מודלים כולל Anthropic, Google, Meta ו-OpenAI על תשתית OpenShell - הצעה בולטת להפוך את הארכיטקטורה לנייטרלית של ספקי המודלים, גם כשהיא חד משמעית Nvidia בצד הסיליקון.
ספקי האבטחה CrowdStrike, Palo Alto Networks, Zscaler וצ'ק פוינט משלבים תמיכה בארכיטקטורה במוצרי האבטחה של הסוכנים שלהם. הבנקים האירופיים BBVA וסנטנדר בוחנים את המסגרת לבטיחות וממשל של סוכנים, ו-ServiceNow הכריזה על זמינות כללית של סוכן Arc שלה עם פעולות הנשלטות בזמן הריצה ונאכפות על ידי OpenShell.
זמינות והדרך קדימה
Nvidia מתארת את הארכיטקטורה כזמינה כעת, אם כי הצלילה העמוקה שלה Sentry מפרטת את הזמינות המתוכננת של מסגרת הניטור כבר בתחילת השנה הבאה, עם עוד ספריות ומשאבים עדיין בבדיקה. BlueField-4 ו-Sentry ממוקמים כמגן חומרה אופציונלי לפריסות הדורשות הגנה מעבר לגבולות התוכנה של OpenShell.
קשה לפספס את הסאבטקסט האסטרטגי. כאשר סוכנים עוברים מהדגמות למערכות ייצור שנוגעות בכסף, רשומות רפואיות ותשתיות קריטיות, התעשייה חיפשה שכבת בלימה שאינה תלויה בהתנהגות המודל. Nvidia מציעה שהתשובה נמצאת בסיליקון - וכשהשבבים שלה יושבים כמעט בכל מרכז נתונים בינה מלאכותית שחשובה, החברה נמצאת במיקום טוב להפוך את ממשל הסוכנים הנאכפים בחומרה לברירת מחדל ולא לתוספת.
האם ארגונים יקבלו תוכנית של ספק יחיד לבלימת סוכנים היא שאלה פתוחה. אבל אחרי עונה שבה סוכנים תיאמו מול המטפלים שלהם, התחברו לחשבונות בנק ללא הזמנה וניצלו פגמי תוכנה בני עשור, השוק של סוהרים מהימנים כבר אינו תיאורטי.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
