NVIDIA פרסמה את Nemotron 3.5 Super VL, מודל מולטי-מודאלי פתוח וניתן להתאמה אישית המכוון לארגונים הבונים סוכני AI מיוחדים. המודל משתמש בארכיטקטורה של 120 מיליארד פרמטרים של תערובת של מומחים המפעילה רק 12 מיליארד פרמטרים לכל אסימון, עיצוב לפי NVIDIA מאזן בין קיבולת בקנה מידה גבול לבין יעילות מסקנות. המשקולות זמינות ב-Huging Face בדיוק BF16, ו-NVIDIA פרסמה הדרכה טכנית לצד המהדורה.
Super VL משתלב במשפחת המודלים הפתוחים המתרחבת של NVIDIA כמומחה המולטי-מודאלי. לדברי החברה, דגמי Nemotron 3.5 Lightning קטנים יותר מטפלים במשימות טקסט בנפח גבוה, בעוד שה-Nemotron 3 Ultra מתמודד עם תכנון ותזמור מורכבים - מאפשר לצוותים לנתב כל שלב בזרימת עבודה של סוכן לגודל הנכון של הדגם. זהו המהלך האחרון בדחיפה של ZDNET שתוארה כצעד נוסף קדימה עבור AI במשקל פתוח בארה"ב. אם אתה עוקב אחר מרוץ המשקולות הפתוחות, הסיקור שלנו על מהדורות הדגמים הפתוחות האחרונות כולל את התמונה הרחבה יותר.
דגם אחד לטקסט, תמונות, מסמכים ווידאו
מגרש הליבה הוא קונסולידציה. Super VL משלב חשיבה, מעקב אחר הוראות ושימוש בכלים עם הבנת טקסט, תמונה, מסמכים ווידאו, כך שהצוותים לא צריכים לפרוס מודלים נפרדים של טקסט ושפת חזון או להעביר את הקשר המשימה ביניהם. NVIDIA אומרת שההכשרה החזותית שלה מכסה תרשימים, טבלאות, זיהוי תווים אופטי, מסמכים מרובי עמודים ווידאו, עם צינור כוונון עדין מפוקח דו-שלבי הממזג ראיות חזותיות עם חשיבה, צ'אט, בטיחות ונתוני הקשר ארוך.
זרימות העבודה היעד הן אלו שארגונים ממשיכים להתקל בהם: סוכן שירות לקוחות שחייב לקרוא את מסמכי המדיניות של החברה, סוכן מחקר המחבר ראיות בין מקורות, או סוכן מסמכים שמפרש תרשים ומקשר אותו לטבלה במקום אחר באותו תיק. בכל מקרה, המודל צריך לראות את החומר ולהגיב עליו באותו חלון הקשר.
תביעות תפוקה: עד פי 5 ב-GPU יחיד
היעילות היא המקום שבו NVIDIA משרטטת את הקווים החדים ביותר. החברה טוענת כי Nemotron 3.5 Super VL מספק עד פי 5 תפוקה גבוהה יותר למשימות סוכנות בהשוואה לדגמים פתוחים אחרים בקטגוריית הגודל שלה ב-GPU יחיד, והצביעה על מדדים המציגים יותר מ-600 אסימונים לשנייה במשימות אגנטיות של אינדקס אינדקס בינה מלאכותית דרך נקודת הקצה של Baseten.
מספר טכניקות מתחת למכסה המנוע מניעות את המספרים הללו. NVIDIA הדגישה את LiLiCorr, שיטת פענוח ספקולטיבית פתוחה, יחד עם דיוק מעורב NVFP4, חיזוי ריבוי אסימונים ושימוש חוזר בהקשר בין פניות סוכנים - אופטימיזציה משמעותית עבור סוכנים שמנהלים שיחות ארוכות עם כלים. עבור ארגונים המפעילים סוכנים ללא הפסקה, התפוקה לכל GPU היא לרוב ההבדל בין מוצר בר-קיימא למבנה עלויות בלתי שמיש.
לאחר אימון הוא העיקר
NVIDIA מפורשת שדגם הבסיס הוא נקודת התחלה ולא מוצר מוגמר. מפתחים יכולים להתאים אישית את Super VL עם ספריית NeMo באמצעות כוונון עדין מפוקח ו-LoRA כדי ללמד התנהגות ספציפית לתחום, ולאחר מכן ליישם למידת חיזוק באמצעות NeMo RL ו-NeMo Gym בסביבות המשקפות את הפעולות שלהם. החברה אומרת שארגונים בתחום אבטחת הסייבר, הפיננסים והבריאות כבר מאמנים את המודל כדי לנצח את חלופות הגבול בתהליכי העבודה שלהם בייצור, טענה שקשה לאמת באופן עצמאי אך תואמת את מיצוב הנציגים הארגוניים.
כדי לתמוך בעבודה זו, NVIDIA משחררת מערכי נתונים פתוחים ב-Huging Face לצד המשקולות, כולל נתוני שימוש בכלים ונתוני שיחה, חשיבה כספית וערכות קריאת כלים, נתוני מעקב אחר הוראות וצ'אט, נתוני העברה ותרגום ארוכי הקשר, נתוני הגינות ו-40 מערכי נתונים של שפת חזון. פריים אינטלקט כבר פרסמה מתכון להכשרת המודל לעבודה ארגונית ארוכת אופק, סימן מוקדם לכך שהמערכת האקולוגית מתייחסת לשחרור כבסיס רציני. NVIDIA פרסמה גם ספר בישול על GitHub שמכסה התאמה אישית, והחברה מדגישה שניתן לפרוס את המשקולות הפתוחות בסביבות מקומיות, מרכזי נתונים או ענן כדי לעמוד בדרישות תשתית ותושבות נתונים - הגמישות שהקונים המוסדרים מבקשים באופן עקבי וממשקי API סגורים לא יכולים להציע.
מה זה אומר עבור המירוץ במשקל פתוח
המהדורה מצמצמת את הפער בין מודלים פתוחים לסגורים במגזר שארגונים פורסים בפועל: מערכות מולטי-מודאליות בגודל בינוני לעבודת סוכנים עתירי מסמכים. מכיוון שהמשקולות יכולות לפעול בסביבות מקומיות, מרכז נתונים או ענן, Super VL נותן לתעשיות מוסדרות אפשרות שממשקי API לא יכולים - לשמור מסמכים רגישים על התשתית שלהם תוך הבנת תרשים, טבלה ווידאו.
הקריאה התחרותית היא פשוטה. Meta, Alibaba, DeepSeek ו-Liquid AI שלחו כולן דגמי משקל פתוח המיועדים לסוכנים השנה, ו-NVIDIA - שמוכרת את החומרה שכולם מתאמנים עליה - מתחרה כעת ישירות בשכבת המודל עם רישוי מתירני וסיפור יעילות. אם תביעות התפוקה יחזיקו מעמד במדדים עצמאיים, מחסנית ברירת המחדל עבור סוכנים ארגוניים ב-2027 עשויה להיות פתוחה הרבה יותר ממה שנראה לפני שנה.
---
הישאר לפני AIקבל את החדשות, הניתוחים ופריצות הדרך האחרונות של AI - הכל במקום אחד.
קרא עוד חדשות AI →