For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/fr/articles/nemotron-3-5-super-vl-specs-benchmarks-an-1bd03819.md.
Un agent d’entreprise a souvent besoin de plus qu’une réponse textuelle. Le traitement d’un document fournisseur peut nécessiter de lire un ...
Un agent d’entreprise a souvent besoin de plus qu’une réponse textuelle. Le traitement d’un document fournisseur peut nécessiter de lire un graphique, d’extraire un tableau, d’appliquer une politique interne et d’appeler un outil métier avant de renvoyer un résultat.
NVIDIA a publié Nemotron 3.5 Super VL pour les tâches qui combinent ces exigences. Le modèle accepte du texte, des images et des vidéos, produit du texte, et intègre la compréhension visuelle dans le même système que le raisonnement, le code et l’utilisation d’outils. Son architecture de mélange d’experts compte 120 milliards de paramètres au total, dont 12 milliards actifs par jeton.
La publication inclut des points de contrôle de base, post-entraînés et NVFP4, ainsi que des ressources d’entraînement. Pour les équipes qui l’envisagent, les questions pratiques portent sur la manière de le personnaliser, sur ce que mesurent les comparaisons de performances et sur la configuration de déploiement adaptée à leur matériel.
La carte de modèle NVFP4 officielle décrit un hybride de couches Mamba-2, d’attention et de mélange d’experts, relié à un encodeur de vision C-RADIO. Cette organisation prend en charge le traitement linguistique à contexte long ainsi que les entrées visuelles.
| Élément | Détail officiellement documenté |
|---|---|
| Paramètres totaux et actifs | 120B au total ; 12B actifs par jeton |
| Entrées et sortie | Texte, images et vidéo en entrée ; texte en sortie |
| Contexte maximal du modèle | Jusqu’à 1 million de jetons |
| Composants visuels | Encodeur C-RADIO et connecteur vision-langage |
| Décodage spéculatif | Prédiction native de plusieurs jetons ; LiLiCorr disponible |
| Exemples de déploiement NVFP4 | Un DGX Spark, un H200, deux H100 ou un GB200 |
| Intégrations d’exécution | vLLM, SGLang et TensorRT-LLM |
| Licence indiquée sur la carte NVFP4 | OpenMDW-1.1 |
Le contexte maximal est partagé entre le prompt, les éléments visuels, l’historique de conversation, les résultats d’outils et la réponse. Une recette de service donnée peut configurer une fenêtre plus petite afin de respecter les contraintes de mémoire et de concurrence. De même, les exemples matériels indiqués décrivent des configurations prises en charge, et non la promesse que chaque charge de travail tiendra avec le contexte maximal.
Les tâches documentaires peuvent fournir des pages sous forme d’images avec leur texte associé. La carte de modèle décrit également des entrées vidéo MP4 allant jusqu’à deux minutes ; la prise en charge de la vidéo en entrée ne doit pas être confondue avec la génération de vidéo, car ce modèle produit du texte.
NVIDIA cite le code, la recherche web, l’intelligence documentaire, la cybersécurité et l’analyse vidéo comme applications cibles. Un agent documentaire peut relier un graphique à un tableau figurant sur une autre page. Un agent de recherche peut recueillir des éléments probants à travers plusieurs sources, tandis qu’un flux de travail de sécurité peut interpréter des résultats et prioriser les actions de suivi.
Le modèle joue également un rôle au sein d’une collection plus large de modèles. NVIDIA positionne Nemotron 3.5 Lightning pour les traitements textuels à gros volume, Super VL pour les tâches spécialisées impliquant des preuves visuelles et des outils, et Nemotron 3 Ultra pour une planification et une orchestration plus exigeantes.
Source : annonce de NVIDIA, utilisant une comparaison d’Artificial Analysis. Le graphique montre Super VL au-dessus de 600 jetons de sortie par seconde sur le point de terminaison Baseten et met en évidence une comparaison de vitesse d’environ cinq fois avec Inkling Small. La comparaison est spécifique à la configuration rapportée et à la condition de 100 000 jetons en entrée.
Une génération rapide de jetons aide lors d’appels d’agents répétés, mais elle ne constitue qu’une partie des performances d’une tâche. Un modèle qui effectue des appels d’outils inutiles ou produit de longues traces de raisonnement peut tout de même mettre plus de temps à terminer un travail.
Les politiques de l’entreprise, les schémas d’outils et la terminologie métier déterminent si un agent accomplit correctement son travail. L’approche proposée par NVIDIA consiste à post-entraîner le modèle au moyen d’un mélange d’exemples propriétaires et de jeux de données publiés pertinents.
NeMo AutoModel prend en charge le réglage fin supervisé et l’adaptation de bas rang. NeMo RL et NeMo Gym fournissent des ressources pour l’apprentissage par renforcement et l’évaluation fondée sur des environnements. NeMo Data Designer comprend des recettes de questions-réponses sur graphiques et de compréhension de documents longs.
L’annonce décrit plusieurs applications de partenaires :
Source : NVIDIA et les organisations nommées dans la figure. Il s’agit de tâches spécialisées distinctes, avec leurs propres paramètres d’évaluation, plutôt que d’un benchmark commun.
NVIDIA publie également des données conversationnelles, d’utilisation d’outils, financières, de suivi d’instructions, de contexte long et d’équité, ainsi que 40 jeux de données vision-langage. Leur utilité dépend du flux de travail cible et des conditions associées à chaque jeu de données.
L’entraînement visuel couvre l’OCR, les graphiques, les tableaux, les documents multipages et la vidéo. Un pipeline de réglage fin supervisé en deux étapes combine des preuves visuelles avec du raisonnement, des conversations, des exemples de sécurité, de contexte long et des trajectoires d’agents.
Dans l’annonce, NVIDIA rapporte un score de raisonnement sur graphiques CharXiv de 80,8 %, porté à 84 % avec l’interprétation de code Python. La carte officielle rapporte séparément des résultats spécifiques aux points de contrôle : 80,82 pour BF16 et 79,88 pour NVFP4 sur le raisonnement CharXiv. Ces chiffres décrivent des configurations déclarées différentes et doivent rester associés à ces configurations.
L’article de lancement fournit également les évaluations d’agents suivantes :
| Modèle | Hermes Bench | LangChain Evals |
|---|---|---|
| Nemotron 3 Ultra | 56,33 % | 84,3 % |
| Nemotron 3.5 Super VL | 63,44 % | 87,05 % |
Source : comparaison publiée par NVIDIA. Un résultat à ces évaluations n’établit pas une supériorité pour toutes les tâches d’agent.
Source : NVIDIA. La figure utilise NVFP4, quatre GPU B200 et un objectif de 50 jetons par seconde et par utilisateur ; sa comparaison mise en avant d’un temps de réalisation quatre fois inférieur est spécifique à cette configuration.
Pour une utilisation locale, NVIDIA renvoie à une évaluation d’EXO Labs sur DGX Spark. La figure publiée place Super VL sur la frontière précision-temps de tâche, qui représente un compromis entre vitesse et qualité plutôt que le score le plus élevé possible pour chaque niveau de latence.
Source : comparaison local.ai/EXO Labs reproduite par NVIDIA. L’axe du temps de tâche est logarithmique.
Decrivez votre idee une fois, et We0 AI peut generer un site vitrine, des pages et un CMS, puis vous aider a attirer clients et trafic apres le lancement.
Une génération de projet complète pour une inscription gratuite
Idéal pour essayer un flux de génération complet et voir rapidement une première ébauche de projet.
NVIDIA décrit une distillation à partir de Nemotron 3 Ultra, suivie d’un entraînement destiné à améliorer le code, l’utilisation d’outils, le raisonnement visuel et la couverture linguistique. La distillation on-policy à plusieurs enseignants permet à des enseignants spécialisés d’évaluer les réponses générées par le modèle avant que leurs capacités ne soient consolidées.
L’entraînement en ingénierie logicielle comprend des dépôts, des éléments issus d’issues et de pull requests, des journaux de compilation et des trajectoires d’agents. L’annonce décrit également une contribution de données indiennes développée avec IIT Madras et AI4Bharat, avec une collection complète publiée d’environ 2 800 milliards de jetons dans 22 langues indiennes.
Source : NVIDIA. La figure compare le modèle post-entraîné aux points de contrôle Sarvam et Gemma spécifiés sur les évaluations indiennes affichées.
LiLiCorr évalue la compatibilité entre les candidats de jetons brouillons afin que le décodage spéculatif puisse proposer des séquences plus cohérentes. NVIDIA le recommande pour une inférence DGX Spark à faible latence et rapporte une génération de jetons jusqu’à 2,3 fois plus rapide qu’un décodage sans spéculation.
Le modèle inclut également une tête de prédiction de plusieurs jetons. Un générateur propose plusieurs jetons futurs, puis le modèle principal les vérifie ensemble. L’acceptation de plusieurs jetons en un passage peut réduire le nombre d’étapes de vérification coûteuses.
La quantification réduit la mémoire requise par le modèle, tandis que la distillation sensible à la quantification entraîne le modèle compressé à suivre les sorties du modèle BF16. NVIDIA indique que la recette utilise des poids et activations de 4 bits sur Blackwell, ainsi que des poids de 4 bits avec des activations de 16 bits sur les plateformes non-Blackwell, selon la configuration de service.
Les composants sensibles conservent une précision plus élevée. La carte de modèle spécifie BF16 pour l’encodeur de vision, le connecteur, les convolutions Mamba et les embeddings, avec le routeur MoE en FP32. « NVFP4 » ne signifie donc pas que chaque composant fonctionne sur quatre bits.
Les appels d’agents contiennent à répétition les mêmes instructions système, définitions d’outils et messages antérieurs. La mise en cache de préfixe peut réutiliser ce calcul.
Les optimisations de service préservent les caches d’attention et les états récurrents Mamba. Des points de contrôle supplémentaires réduisent la quantité de travail rejouée pendant le décodage spéculatif et le traitement des prompts.
NVIDIA NIM regroupe des moteurs d’inférence optimisés, des configurations validées et des API standard. Un support entreprise est disponible via NVIDIA AI Enterprise.
Dynamo traite l’inférence distribuée grâce à un routage tenant compte du cache, à la gestion du cache KV et au service désagrégé. Lors d’un test rapporté sur 16 GPU B200 à 50 jetons par seconde et par utilisateur, NVIDIA affirme qu’une recette utilisant l’affinité de session et le déchargement de cache a servi jusqu’à huit fois plus d’utilisateurs tout en réduisant le délai avant le premier jeton de 85 %.
Source : NVIDIA. La figure spécifie SWE-bench Pro sur 16 GPU B200 et 50 jetons par seconde et par utilisateur.
Pour un déploiement initial, choisissez une recette spécifique au matériel dans le cookbook officiel ou la carte de modèle, confirmez sa version d’exécution et établissez une référence sur des tâches représentatives. Mesurez conjointement la précision de réalisation, le nombre total de jetons, les appels d’outils, la latence et la mémoire avant d’augmenter la concurrence ou la longueur du contexte.
Il s’agit d’un modèle vision-langage destiné au raisonnement, au code, à l’utilisation d’outils, à la compréhension de documents et à l’analyse vidéo. Il est conçu pour des agents spécialisés devant combiner des preuves visuelles avec du texte et des actions en plusieurs étapes.
La carte de modèle officielle répertorie le texte, les images et la vidéo comme entrées, avec du texte comme sortie. Sa capacité vidéo signifie qu’il comprend une vidéo fournie, et non qu’il crée un nouveau clip vidéo.
Oui, NVIDIA publie une configuration DGX Spark pour le point de contrôle NVFP4. Cette recette comporte des paramètres spécifiques de concurrence et de décodage spéculatif ; son comportement en mémoire et en performances doit donc être évalué comme une configuration complète.
Le modèle prend en charge un contexte maximal allant jusqu’à un million de jetons. Les recettes de service réelles peuvent utiliser des fenêtres plus petites pour tenir compte de la mémoire matérielle, des entrées visuelles et des requêtes simultanées.
NeMo AutoModel fournit des ressources de réglage fin supervisé et de LoRA pour le modèle. NVIDIA renvoie également vers NeMo RL et NeMo Gym pour l’apprentissage par renforcement et l’évaluation fondée sur les flux de travail.
La carte Hugging Face officielle identifie OpenMDW-1.1 et décrit les utilisations commerciales et non commerciales. Consultez l’accord réel ainsi que les éventuelles licences distinctes de jeux de données ou de logiciels pour le déploiement envisagé.
Nemotron 3.5 Super VL combine compréhension visuelle, raisonnement et utilisation d’outils dans un modèle de 120B paramètres qui active 12B paramètres par jeton. Sa publication fournit aux équipes des points de contrôle et des ressources de personnalisation pour des flux de travail spécialisés d’agents liés aux documents, à la recherche, au code et à d’autres usages.
Les accélérations publiées dépendent du matériel, de la précision, du logiciel de service et des conditions d’évaluation. Utilisez les recettes de déploiement officielles et mesurez des tâches complètes sur vos propres données avant de transposer des gains de benchmark en attentes de production.
Partez d’une phrase et obtenez un site complet en quelques minutes.
