NVIDIA випустила Nemotron 3.5 Super VL, відкриту, настроювану мультимодальну модель, призначену для підприємств, які створюють спеціалізовані агенти ШІ. У цій моделі використовується архітектура змішаних експертів із 120 мільярдами параметрів, яка активує лише 12 мільярдів параметрів на токен. NVIDIA каже, що ця конструкція врівноважує потужність передового масштабу з ефективністю висновку. Ваги доступні на Hugging Face з точністю BF16, а NVIDIA опублікувала технічне керівництво разом із випуском.
Super VL входить у сімейство відкритих моделей NVIDIA, що розширюється, як мультимодальний спеціаліст. За словами компанії, менші моделі Nemotron 3.5 Lightning обробляють текстові завдання великого обсягу, тоді як передовий Nemotron 3 Ultra займається складним плануванням і оркестровкою, дозволяючи командам направляти кожен крок робочого процесу агента до потрібного розміру моделі. Це останній крок у поштовху ZDNET, описаному як ще один крок вперед для штучного інтелекту відкритого типу в США. Якщо ви відстежуєте гонку відкритих ваг, наше висвітлення останніх випусків відкритих моделей має ширшу картину.
Одна модель для тексту, зображень, документів і відео
Основний крок - консолідація. Super VL поєднує міркування, дотримання інструкцій і використання інструментів із розумінням тексту, зображень, документів і відео, тому командам не потрібно розгортати окремі текстові та візуально-мовні моделі або переміщувати контекст завдань між ними. NVIDIA каже, що її візуальне навчання охоплює діаграми, таблиці, оптичне розпізнавання символів, багатосторінкові документи та відео з двоступеневим контрольованим конвеєром тонкого налаштування, який поєднує візуальні докази з міркуваннями, чатом, безпекою та даними тривалого контексту.
Цільові робочі процеси – це ті, з якими підприємства постійно спотикаються: агент із обслуговування клієнтів, який повинен читати документи компанії про політику, агент-дослідник, який зв’язує докази з різних джерел, або агент-документатор, який інтерпретує діаграму та пов’язує її з таблицею в іншому місці того самого файлу. У кожному випадку модель повинна бачити матеріал і міркувати над ним в одному контекстному вікні.
Заяви про пропускну здатність: до 5 разів на одному GPU
Ефективність – це те, де NVIDIA малює найчіткіші лінії. Компанія стверджує, що Nemotron 3.5 Super VL забезпечує до 5 разів більшу пропускну здатність для агентських завдань порівняно з іншими відкритими моделями в цій категорії розмірів на одному GPU, і вказала на контрольні показники, які показують понад 600 токенів на секунду в агентських завданнях Artificial Analysis Intelligence Index через кінцеву точку висновку Baseten.
Кілька методів під капотом дозволяють отримати ці цифри. NVIDIA підкреслила LiLiCorr, відкритий спекулятивний метод декодування разом із змішаною точністю NVFP4, прогнозуванням кількох маркерів і повторним використанням контексту в ході агента — значуща оптимізація для агентів, які ведуть тривалі розмови з інструментами. Для підприємств, які працюють безперервно з агентами, пропускна здатність на GPU часто є різницею між життєздатним продуктом і непридатною структурою витрат.
Головне в посттренінгу
NVIDIA чітко заявляє, що базова модель є відправною точкою, а не готовим продуктом. Розробники можуть налаштувати Super VL за допомогою бібліотеки NeMo за допомогою контрольованого тонкого налаштування та LoRA, щоб навчити поведінці, що залежить від домену, а потім застосувати навчання з підкріпленням через NeMo RL та NeMo Gym у середовищах, які відображають їхні власні операції. У компанії кажуть, що організації, що займаються кібербезпекою, фінансами та охороною здоров’я, вже завершують тренування моделі, щоб перемогти передові альтернативи у своїх виробничих процесах. Це твердження важко перевірити незалежно, але це відповідає позиціонуванню підприємства-агента.
Щоб підтримати цю роботу, NVIDIA випускає відкриті набори даних на Hugging Face разом із ваговими показниками, включно з агентськими даними про використання інструментів і розмовними даними, фінансовими міркуваннями та наборами викликів інструментів, даними про виконання інструкцій і чатах, даними трансдукції та перекладу тривалого контексту, даними справедливості та 40 наборами даних мови бачення. Prime Intellect вже опублікував рецепт для постнавчання моделі для довгострокової корпоративної роботи, що є першою ознакою того, що екосистема розглядає випуск як серйозну основу. NVIDIA також опублікувала на GitHub куховарську книгу з використання, яка охоплює налаштування, і компанія наголошує, що відкриті ваги можна розгортати в локальному середовищі, центрі обробки даних або хмарному середовищі, щоб відповідати вимогам до інфраструктури та резидентності даних — гнучкості, якої постійно вимагають регульовані покупці, але не можуть запропонувати закриті API.
Що це означає для гонки у відкритій вазі
Випуск скорочує розрив між відкритими та закритими моделями в сегменті, який фактично розгортають підприємства: мультимодальні системи середнього розміру для роботи агентів із великою кількістю документів. Оскільки ваги можуть виконуватися в локальному середовищі, центрі обробки даних або хмарному середовищі, Super VL надає регульованим галузям можливість, яку не можуть передові API, — зберігати конфіденційні документи у власній інфраструктурі, зберігаючи розуміння діаграм, таблиць і відео.
Конкурентне читання є простим. Meta, Alibaba, DeepSeek і Liquid AI цього року поставили відкриті моделі для агентів, а NVIDIA, яка продає апаратне забезпечення, на якому тренуються всі інші, тепер конкурує безпосередньо на рівні моделей завдяки дозвільному ліцензуванню та історії ефективності. Якщо вимоги щодо пропускної здатності витримають незалежні тести, стек за замовчуванням для корпоративних агентів у 2027 році може бути значно більш відкритим, ніж це виглядало рік тому.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
