For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/de/articles/nemotron-3-5-super-vl-specs-benchmarks-an-1bd03819.md.
Ein Unternehmensagent benötigt oft mehr als eine Textantwort. Die Verarbeitung eines Lieferantendokuments kann das Lesen eines Diagramms, da...
Ein Unternehmensagent benötigt oft mehr als eine Textantwort. Die Verarbeitung eines Lieferantendokuments kann das Lesen eines Diagramms, das Extrahieren einer Tabelle, die Anwendung einer internen Richtlinie und den Aufruf eines Geschäftstools umfassen, bevor ein Ergebnis zurückgegeben wird.
NVIDIA hat Nemotron 3.5 Super VL für Aufgaben veröffentlicht, die diese Anforderungen kombinieren. Das Modell akzeptiert Text, Bilder und Video, erzeugt Text und integriert visuelles Verständnis in dasselbe System wie Schlussfolgern, Programmieren und Tool-Nutzung. Seine Mixture-of-Experts-Architektur verfügt über 120 Milliarden Parameter insgesamt, von denen pro Token 12 Milliarden aktiv sind.
Die Veröffentlichung umfasst Basis-, posttrainierte und NVFP4-Checkpoints sowie Trainingsressourcen. Für Teams, die das Modell in Betracht ziehen, sind die praktischen Fragen: Wie lässt es sich anpassen, was messen die Leistungsvergleiche und welche Bereitstellungskonfiguration passt zur vorhandenen Hardware?
Die offizielle NVFP4-Modellkarte beschreibt eine Kombination aus Mamba-2-, Attention- und Mixture-of-Experts-Schichten, die mit einem C-RADIO-Visionsencoder verbunden sind. Diese Anordnung unterstützt Sprachverarbeitung mit langem Kontext zusammen mit visuellen Eingaben.
| Element | Offiziell dokumentiertes Detail |
|---|---|
| Gesamtzahl und aktive Parameter | 120B insgesamt; 12B aktiv pro Token |
| Eingabe und Ausgabe | Text, Bilder und Video als Eingabe; Text als Ausgabe |
| Maximaler Modellkontext | Bis zu 1 Million Token |
| Visuelle Komponenten | C-RADIO-Encoder und Vision-Language-Connector |
| Spekulatives Decoding | Native Multi-Token-Vorhersage; LiLiCorr verfügbar |
| NVFP4-Beispiele für die Bereitstellung | Ein DGX Spark, ein H200, zwei H100s oder ein GB200 |
| Laufzeitintegrationen | vLLM, SGLang und TensorRT-LLM |
| In der NVFP4-Karte aufgeführte Lizenz | OpenMDW-1.1 |
Der maximale Kontext wird von Prompt, visuellem Material, Konversationsverlauf, Tool-Ergebnissen und Antwort gemeinsam genutzt. Ein bestimmtes Serving-Rezept kann ein kleineres Fenster konfigurieren, um Anforderungen an Speicher und Parallelität zu erfüllen. Ebenso beschreiben die aufgeführten Hardwarebeispiele unterstützte Konfigurationen und stellen keine Zusage dar, dass jede Arbeitslast mit maximalem Kontext ausgeführt werden kann.
Dokumentenaufgaben können Seiten als Bilder mit zugehörigem Text bereitstellen. Die Modellkarte beschreibt außerdem MP4-Videoeingaben von bis zu zwei Minuten. Die Unterstützung von Eingabevideos sollte nicht mit Videogenerierung verwechselt werden, da dieses Modell Text ausgibt.
NVIDIA nennt Programmierung, Webrecherche, Dokumentenintelligenz, Cybersicherheit und Videoanalyse als Zielanwendungen. Ein Dokumentenagent könnte ein Diagramm mit einer Tabelle auf einer anderen Seite in Beziehung setzen. Ein Rechercheagent könnte Nachweise aus verschiedenen Quellen zusammentragen, während ein Sicherheitsworkflow Befunde interpretieren und Folgeaktionen priorisieren könnte.
Das Modell hat auch eine Rolle innerhalb einer größeren Modellsammlung. NVIDIA positioniert Nemotron 3.5 Lightning für hochvolumige Textaufgaben, Super VL für spezialisierte Aufgaben mit visuellen Nachweisen und Tools sowie Nemotron 3 Ultra für anspruchsvollere Planung und Orchestrierung.
Quelle: Ankündigung von NVIDIA unter Verwendung eines Vergleichs von Artificial Analysis. Das Diagramm zeigt Super VL mit mehr als 600 Ausgabetoken pro Sekunde am Baseten-Endpunkt und hebt einen ungefähr fünffachen Geschwindigkeitsvergleich mit Inkling Small hervor. Der Vergleich gilt speziell für das berichtete Setup und die Bedingung mit 100.000 Eingabetoken.
Schnelle Tokengenerierung hilft bei wiederholten Agentenaufrufen, ist jedoch nur ein Teil der Aufgabenleistung. Ein Modell, das unnötige Tool-Aufrufe ausführt oder lange Schlussfolgerungsspuren erzeugt, kann dennoch länger für die Erledigung einer Aufgabe benötigen.
Unternehmensrichtlinien, Toolschemas und Fachterminologie bestimmen, ob ein Agent Aufgaben korrekt erledigt. Der von NVIDIA vorgeschlagene Ansatz besteht darin, das Modell mit einer Mischung aus proprietären Beispielen und relevanten veröffentlichten Datensätzen weiterzutrainieren.
NeMo AutoModel unterstützt überwachtes Fine-Tuning und Low-Rank Adaptation. NeMo RL und NeMo Gym stellen Ressourcen für Reinforcement Learning und umgebungsbasierte Evaluierungen bereit. NeMo Data Designer enthält Rezepte für die Beantwortung von Fragen zu Diagrammen und das Verständnis langer Dokumente.
Die Ankündigung beschreibt mehrere Partneranwendungen:
Quelle: NVIDIA und die in der Abbildung genannten Organisationen. Dabei handelt es sich um unterschiedliche spezialisierte Aufgaben mit jeweils eigenen Evaluierungseinstellungen und nicht um einen gemeinsamen Benchmark.
NVIDIA veröffentlicht außerdem Daten für Konversationen, Tool-Nutzung, Finanzen, Befolgen von Anweisungen, lange Kontexte und Fairness sowie 40 Vision-Language-Datensätze. Ihr Nutzen hängt vom Zielworkflow und den Bedingungen ab, die für jeden Datensatz gelten.
Das visuelle Training deckt OCR, Diagramme, Tabellen, mehrseitige Dokumente und Video ab. Eine zweistufige Pipeline für überwachtes Fine-Tuning kombiniert visuelle Nachweise mit Schlussfolgerungen, Chats, Sicherheit, Beispielen für lange Kontexte und Agententrajektorien.
In der Ankündigung berichtet NVIDIA einen CharXiv-Wert für Diagrammverständnis von 80,8 %, der mit Python-Codeinterpretation auf 84 % steigt. Die offizielle Karte berichtet separat checkpoint-spezifische Ergebnisse: 80,82 für BF16 und 79,88 für NVFP4 beim CharXiv-Reasoning. Diese Zahlen beschreiben unterschiedliche angegebene Konfigurationen und sollten an diese Konfigurationen gebunden bleiben.
Der Launchartikel liefert außerdem die folgenden Agenten-Evaluierungen:
| Modell | Hermes Bench | LangChain Evals |
|---|---|---|
| Nemotron 3 Ultra | 56,33 % | 84,3 % |
| Nemotron 3.5 Super VL | 63,44 % | 87,05 % |
Quelle: Der von NVIDIA veröffentlichte Vergleich. Ein Ergebnis in diesen Evaluierungen belegt keine Überlegenheit bei jeder Agentenaufgabe.
Quelle: NVIDIA. Die Abbildung verwendet NVFP4, vier B200-GPUs und ein Ziel von 50 Token pro Sekunde und Nutzer; ihr hervorgehobener vierfacher Vergleich der Bearbeitungszeit gilt speziell für dieses Setup.
Für den lokalen Einsatz verweist NVIDIA auf eine Evaluierung von EXO Labs auf DGX Spark. Die veröffentlichte Abbildung positioniert Super VL auf der Genauigkeits-gegen-Aufgabenzeit-Grenze, die einen Kompromiss zwischen Geschwindigkeit und Qualität darstellt, nicht jedoch den höchstmöglichen Wert bei jeder Latenz.
Quelle: Der von NVIDIA reproduzierte Vergleich von local.ai/EXO Labs. Die Achse für die Aufgabenzeit ist logarithmisch.
Beschreibe deine Idee einmal, und We0 AI erstellt eine Showcase-Website, Seiten und ein CMS und hilft nach dem Launch bei Kunden und Traffic.
Eine komplette Projektgeneration zur kostenlosen Registrierung
Am besten geeignet, um einen vollständigen Generierungsablauf auszuprobieren und schnell einen ersten Projektentwurf zu sehen.
NVIDIA beschreibt eine Destillation von Nemotron 3 Ultra, gefolgt von einem Training zur Verbesserung von Programmierung, Tool-Nutzung, visuellem Schlussfolgern und Sprachabdeckung. Multi-Teacher-On-Policy-Destillation ermöglicht es spezialisierten Lehrermodellen, modellgenerierte Antworten zu bewerten, bevor ihre Fähigkeiten zusammengeführt werden.
Das Software-Engineering-Training umfasst Repositories, Issue- und Pull-Request-Material, Build-Logs und Agententrajektorien. Die Ankündigung beschreibt außerdem einen gemeinsam mit IIT Madras und AI4Bharat entwickelten Beitrag zu indischen Daten, mit einer vollständig veröffentlichten Sammlung von etwa 2,8 Billionen Token in 22 indischen Sprachen.
Quelle: NVIDIA. Die Abbildung vergleicht das posttrainierte Modell mit den angegebenen Sarvam- und Gemma-Checkpoints in den dargestellten Evaluierungen für indische Sprachen.
LiLiCorr bewertet die Kompatibilität zwischen Kandidaten für Entwurfstoken, sodass spekulatives Decoding kohärentere Sequenzen vorschlagen kann. NVIDIA empfiehlt es für Inferenz mit niedriger Latenz auf DGX Spark und berichtet eine bis zu 2,3-mal schnellere Tokengenerierung als beim Decoding ohne Spekulation.
Das Modell enthält außerdem einen Kopf für Multi-Token-Vorhersage. Ein Draft-Modell schlägt mehrere zukünftige Token vor, und das Hauptmodell verifiziert sie gemeinsam. Die Annahme mehrerer Token in einem Durchlauf kann die Anzahl kostspieliger Verifikationsschritte reduzieren.
Quantisierung reduziert den Modellspeicherbedarf, während quantisierungsbewusste Destillation das komprimierte Modell darauf trainiert, den Ausgaben des BF16-Modells zu folgen. NVIDIA erklärt, dass das Rezept gemäß Serving-Konfiguration auf Blackwell 4-Bit-Gewichte und -Aktivierungen sowie auf Nicht-Blackwell-Plattformen 4-Bit-Gewichte mit 16-Bit-Aktivierungen verwendet.
Empfindliche Komponenten behalten eine höhere Präzision. Die Modellkarte legt BF16 für den Visionsencoder, den Connector, Mamba-Convolutions und Embeddings fest; der MoE-Router arbeitet in FP32. „NVFP4“ bedeutet daher nicht, dass jede Komponente mit vier Bit ausgeführt wird.
Agentenaufrufe enthalten wiederholt dieselben Systemanweisungen, Tool-Definitionen und frühere Nachrichten. Prefix-Caching kann diese Berechnungen wiederverwenden.
Die Serving-Optimierungen bewahren Attention-Caches und rekurrente Mamba-Zustände. Zusätzliche Checkpoints reduzieren den Arbeitsaufwand, der bei spekulativem Decoding und bei der Prompt-Verarbeitung erneut ausgeführt wird.
NVIDIA NIM bündelt optimierte Inferenz-Engines, validierte Konfigurationen und Standard-APIs. Unternehmenssupport ist über NVIDIA AI Enterprise verfügbar.
Dynamo adressiert verteilte Inferenz durch cachebewusstes Routing, KV-Cache-Management und entkoppeltes Serving. In einem berichteten Test auf 16 B200-GPUs bei 50 Token pro Sekunde und Nutzer sagt NVIDIA, dass ein Rezept mit Sitzungsaffinität und Cache-Offloading bis zu achtmal so viele Nutzer bedienen und gleichzeitig die Zeit bis zum ersten Token um 85 % reduzieren konnte.
Quelle: NVIDIA. Die Abbildung spezifiziert SWE-bench Pro auf 16 B200-GPUs und 50 Token pro Sekunde und Nutzer.
Wählen Sie für eine erste Bereitstellung ein hardwarespezifisches Rezept aus dem offiziellen Cookbook oder der Modellkarte, bestätigen Sie dessen Laufzeitversion und erstellen Sie eine Ausgangsbasis anhand repräsentativer Aufgaben. Messen Sie Abschlussgenauigkeit, Gesamtzahl der Token, Tool-Aufrufe, Latenz und Speicher gemeinsam, bevor Sie Parallelität oder Kontextlänge erhöhen.
Es handelt sich um ein Vision-Language-Modell für Schlussfolgern, Programmierung, Tool-Nutzung, Dokumentenverständnis und Videoanalyse. Es ist für spezialisierte Agenten vorgesehen, die visuelle Nachweise mit Text und mehrstufigen Aktionen verbinden müssen.
Die offizielle Modellkarte führt Text, Bilder und Video als Eingaben und Text als Ausgabe auf. Seine Videofähigkeit bedeutet das Verstehen bereitgestellter Videos, nicht das Erstellen eines neuen Videoclips.
Ja, NVIDIA veröffentlicht eine DGX-Spark-Konfiguration für den NVFP4-Checkpoint. Dieses Rezept verfügt über spezifische Einstellungen für Parallelität und spekulatives Decoding; sein Speicher- und Leistungsverhalten sollte daher als vollständige Konfiguration bewertet werden.
Das Modell unterstützt einen maximalen Kontext von bis zu einer Million Token. Tatsächliche Serving-Rezepte können kleinere Fenster verwenden, um Hardware-Speicher, visuelle Eingaben und parallele Anfragen zu berücksichtigen.
NeMo AutoModel stellt Ressourcen für überwachtes Fine-Tuning und LoRA für das Modell bereit. NVIDIA verweist außerdem auf NeMo RL und NeMo Gym für Reinforcement Learning und workflowbasierte Evaluierung.
Die offizielle Hugging-Face-Karte nennt OpenMDW-1.1 und beschreibt kommerzielle sowie nicht kommerzielle Nutzung. Prüfen Sie für die geplante Bereitstellung die tatsächliche Vereinbarung sowie alle separaten Lizenzen für Datensätze oder Software.
Nemotron 3.5 Super VL kombiniert visuelles Verständnis, Schlussfolgern und Tool-Nutzung in einem Modell mit 120 Milliarden Parametern, das 12 Milliarden Parameter pro Token aktiviert. Die Veröffentlichung bietet Teams Checkpoints und Anpassungsressourcen für Dokumenten-, Recherche-, Programmier- und andere spezialisierte Agenten-Workflows.
Die veröffentlichten Beschleunigungen hängen von Hardware, Präzision, Serving-Software und Evaluierungsbedingungen ab. Nutzen Sie die offiziellen Bereitstellungsrezepte und messen Sie vollständige Aufgaben mit Ihren eigenen Daten, bevor Sie Benchmark-Gewinne in Produktionserwartungen übertragen.
Starte mit einem Satz und erhalte in wenigen Minuten eine vollständige Website.
