NVIDIA hat Nemotron 3.5 Super VL veröffentlicht, ein offenes, anpassbares multimodales Modell, das sich an Unternehmen richtet, die spezialisierte KI-Agenten entwickeln. Das Modell nutzt eine 120-Milliarden-Parameter-Experten-Architektur, die nur 12 Milliarden Parameter pro Token aktiviert, ein Design, das laut NVIDIA Grenzkapazität mit Inferenzeffizienz in Einklang bringt. Die Gewichte sind auf Hugging Face in BF16-Präzision verfügbar, und NVIDIA hat zusammen mit der Veröffentlichung eine technische Komplettlösung veröffentlicht.
Super VL fügt sich als multimodaler Spezialist in die wachsende Open-Model-Familie von NVIDIA ein. Nach Angaben des Unternehmens bewältigen kleinere Nemotron 3.5 Lightning-Modelle umfangreiche Textaufgaben, während das Spitzenmodell Nemotron 3 Ultra komplexe Planung und Orchestrierung übernimmt – so können Teams jeden Schritt eines Agenten-Workflows an die richtige Modellgröße weiterleiten. Dies ist der jüngste Schritt in einem Vorstoß, den ZDNET als einen weiteren Schritt nach vorn für US-amerikanische Open-Weight-KI bezeichnet. Wenn Sie das Rennen um die offenen Gewichte verfolgen, bietet unsere Berichterstattung über die jüngsten Neuerscheinungen der offenen Modelle ein umfassenderes Bild.
Ein Modell für Text, Bilder, Dokumente und Videos
Der Kernpunkt ist die Konsolidierung. Super VL kombiniert Argumentation, Befolgung von Anweisungen und Werkzeugnutzung mit Text-, Bild-, Dokument- und Videoverständnis, sodass Teams keine separaten Text- und Vision-Sprachmodelle bereitstellen oder den Aufgabenkontext zwischen ihnen hin- und herwechseln müssen. Laut NVIDIA umfasst das visuelle Training Diagramme, Tabellen, optische Zeichenerkennung, mehrseitige Dokumente und Videos mit einer zweistufigen überwachten Feinabstimmungspipeline, die visuelle Beweise mit Argumentations-, Chat-, Sicherheits- und Langkontextdaten verbindet.
Die Ziel-Workflows sind diejenigen, über die Unternehmen immer wieder stolpern: ein Kundendienstmitarbeiter, der Unternehmensrichtliniendokumente lesen muss, ein Recherchemitarbeiter, der Beweise über Quellen hinweg verknüpft, oder ein Dokumentenagent, der ein Diagramm interpretiert und es mit einer Tabelle an anderer Stelle in derselben Akte verknüpft. In jedem Fall muss das Modell das Material und den Grund darüber im selben Kontextfenster sehen.
Durchsatzansprüche: Bis zu 5x auf einer einzelnen GPU
Bei der Effizienz setzt NVIDIA die höchsten Maßstäbe. Das Unternehmen behauptet, dass Nemotron 3.5 Super VL im Vergleich zu anderen offenen Modellen seiner Größenklasse auf einer einzelnen GPU einen bis zu fünfmal höheren Durchsatz für Agentenaufgaben liefert, und verwies auf Benchmarks, die mehr als 600 Token pro Sekunde bei Agentenaufgaben des Artificial Analysis Intelligence Index über den Baseten-Inferenzendpunkt zeigten.
Mehrere Techniken unter der Haube steuern diese Zahlen. NVIDIA hob LiLiCorr hervor, eine offene spekulative Dekodierungsmethode, zusammen mit NVFP4-Mischpräzision, Multi-Token-Vorhersage und Kontextwiederverwendung über Agentenrunden hinweg – eine sinnvolle Optimierung für Agenten, die lange Gespräche mit Tools führen. Für Unternehmen, die Agenten ununterbrochen betreiben, ist der Durchsatz pro GPU oft der Unterschied zwischen einem brauchbaren Produkt und einer unbrauchbaren Kostenstruktur.
Post-Training ist der Punkt
NVIDIA weist ausdrücklich darauf hin, dass das Basismodell eher ein Ausgangspunkt als ein fertiges Produkt ist. Entwickler können Super VL mit der NeMo-Bibliothek mithilfe von überwachter Feinabstimmung und LoRA anpassen, um domänenspezifisches Verhalten zu lehren, und dann Verstärkungslernen über NeMo RL und NeMo Gym in Umgebungen anwenden, die ihre eigenen Abläufe widerspiegeln. Das Unternehmen gibt an, dass Organisationen in den Bereichen Cybersicherheit, Finanzen und Gesundheitswesen das Modell bereits nachtrainieren, um bahnbrechende Alternativen in ihren Produktionsabläufen zu schlagen, eine Behauptung, die unabhängig schwer zu überprüfen ist, aber mit der Positionierung des Unternehmens-Agenten übereinstimmt.
Um diese Arbeit zu unterstützen, veröffentlicht NVIDIA auf Hugging Face neben den Gewichten offene Datensätze, darunter Daten zur Agenten-Tool-Nutzung und Konversation, Finanzbegründungs- und Tool-Calling-Sets, Befehlsfolge- und Chat-Daten, Langkontext-Transduktions- und Übersetzungsdaten, Fairness-Daten und 40 Vision-Language-Datensätze. Prime Intellect hat bereits ein Rezept für die Nachschulung des Modells für langfristige Unternehmensarbeit veröffentlicht, ein frühes Zeichen dafür, dass das Ökosystem die Veröffentlichung als ernsthafte Grundlage betrachtet. NVIDIA hat außerdem auf GitHub ein Nutzungskochbuch veröffentlicht, das sich mit der Anpassung befasst. Das Unternehmen betont, dass die offenen Gewichte in lokalen, Rechenzentrums- oder Cloud-Umgebungen bereitgestellt werden können, um Infrastruktur- und Datenresidenzanforderungen zu erfüllen – die Flexibilität, die regulierte Käufer ständig fordern und die geschlossene APIs nicht bieten können.
Was es für das Open-Weight-Rennen bedeutet
Die Veröffentlichung verkleinert die Lücke zwischen offenen und geschlossenen Modellen in dem Segment, das Unternehmen tatsächlich einsetzen: mittelgroße multimodale Systeme für dokumentenintensive Agentenarbeit. Da die Gewichte in lokalen, Rechenzentrums- oder Cloud-Umgebungen ausgeführt werden können, bietet Super VL regulierten Branchen eine Option, die Frontier-APIs nicht bieten können – vertrauliche Dokumente in ihrer eigenen Infrastruktur zu behalten und gleichzeitig Diagramme, Tabellen und Videos zu verstehen.
Die kompetitive Lektüre ist unkompliziert. Meta, Alibaba, DeepSeek und Liquid AI haben dieses Jahr alle offene Modelle für Agenten ausgeliefert, und NVIDIA – das die Hardware verkauft, auf der alle anderen trainieren – konkurriert jetzt direkt auf der Modellebene mit freizügigen Lizenzen und einer Effizienzstory. Wenn die Angaben zum Durchsatz in unabhängigen Benchmarks bestehen bleiben, könnte der Standard-Stack für Unternehmensagenten im Jahr 2027 deutlich offener sein, als er vor einem Jahr aussah.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →