NVIDIA 发布了 Nemotron 3.5 Super VL,这是一种开放的、可定制的多模式模型,旨在帮助企业构建专门的 AI 代理。该模型采用 1200 亿个参数的专家混合架构,每个令牌仅激活 120 亿个参数,NVIDIA 表示,这种设计平衡了前沿规模容量与推理效率。 Hugging Face 上提供了 BF16 精度的权重,NVIDIA 在发布的同时还发布了技术演练。
Super VL 作为多模式专家融入 NVIDIA 不断扩大的开放式车型系列。据该公司称,较小的 Nemotron 3.5 Lightning 模型可以处理大量文本任务,而前沿的 Nemotron 3 Ultra 可以处理复杂的规划和编排,让团队将代理工作流程的每个步骤路由到正确大小的模型。这是 ZDNET 推动的最新举措,被描述为美国开放式人工智能向前迈出的又一步。如果您正在跟踪公开重量级比赛,我们对最近公开模型版本的报道可以提供更广泛的信息。
文本、图像、文档和视频的一种模型
核心要点是整合。 Super VL 将推理、指令跟踪和工具使用与文本、图像、文档和视频理解结合起来,因此团队不需要部署单独的文本和视觉语言模型,也不需要在它们之间穿梭任务上下文。 NVIDIA 表示,其视觉训练涵盖图表、表格、光学字符识别、多页文档和视频,并具有两阶段监督微调管道,将视觉证据与推理、聊天、安全和长上下文数据融合在一起。
目标工作流程是企业不断遇到的问题:必须阅读公司政策文件的客户服务代理、连接跨来源证据的研究代理或解释图表并将其链接到同一文件中其他位置的表格的文档代理。在每种情况下,模型都需要在同一上下文窗口中查看材料和原因。
吞吐量声明:单个 GPU 上高达 5 倍
效率是 NVIDIA 划定最明确界限的地方。该公司声称,与同尺寸类别的其他开放模型相比,Nemotron 3.5 Super VL 在单个 GPU 上为代理任务提供了高达 5 倍的吞吐量,并指出基准显示,通过 Baseten 推理端点,人工智能指数代理任务每秒处理超过 600 个令牌。
这些数字背后有多种技术驱动。 NVIDIA 重点介绍了 LiLiCorr(一种开放式推测解码方法)以及 NVFP4 混合精度、多标记预测和跨代理轮次的上下文重用 - 对于与工具进行长时间运行对话的代理来说,这是一项有意义的优化。对于不间断运行代理的企业来说,每个 GPU 的吞吐量通常是可行产品和不可用成本结构之间的区别。
训练后是重点
NVIDIA 明确表示基础模型是一个起点而不是成品。开发人员可以使用 NeMo 库定制 Super VL,使用监督微调和 LoRA 来教授特定领域的行为,然后通过 NeMo RL 和 NeMo Gym 在反映其自身操作的环境中应用强化学习。该公司表示,网络安全、金融和医疗保健领域的组织已经对该模型进行了后期训练,以在其生产工作流程中击败前沿替代方案,这一说法很难独立验证,但与企业代理的定位一致。
为了支持这项工作,NVIDIA 在 Hugging Face 上发布了开放数据集和权重数据,包括代理工具使用和对话数据、金融推理和工具调用集、指令跟踪和聊天数据、长上下文转换和翻译数据、公平性数据以及 40 种视觉语言数据集。 Prime Intellect 已经发布了对长期企业工作模型进行后培训的配方,这是生态系统将此次发布视为严肃基础的早期迹象。 NVIDIA 还在 GitHub 上发布了一本涵盖定制的使用指南,该公司强调开放权重可以部署在本地、数据中心或云环境中,以满足基础设施和数据驻留要求——受监管的买家一直要求的灵活性,而封闭式 API 无法提供。
这对公开重量赛意味着什么
该版本缩小了企业实际部署的部分中开放模型和封闭模型之间的差距:用于文档繁重的代理工作的中型多模式系统。由于权重可以在本地、数据中心或云环境中运行,Super VL 为受监管行业提供了前沿 API 无法提供的选项 - 将敏感文档保留在自己的基础设施上,同时仍能获取图表、表格和视频理解。
竞争性的阅读很简单。 Meta、阿里巴巴、DeepSeek 和 Liquid AI 今年都推出了针对智能体的开放权重模型,而 NVIDIA(销售其他所有人训练所用的硬件)现在正通过宽松的许可和效率故事在模型层直接竞争。如果吞吐量声明在独立基准测试中成立,那么 2027 年企业代理的默认堆栈可能会比一年前更加开放。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →