For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/pt/articles/nemotron-3-5-super-vl-specs-benchmarks-an-1bd03819.md.
Um agente empresarial muitas vezes precisa de mais do que uma resposta em texto. Processar um documento de fornecedor pode envolver ler um g...
Um agente empresarial muitas vezes precisa de mais do que uma resposta em texto. Processar um documento de fornecedor pode envolver ler um gráfico, extrair uma tabela, aplicar uma política interna e chamar uma ferramenta de negócio antes de retornar um resultado.
A NVIDIA lançou o Nemotron 3.5 Super VL para trabalhos que combinam essas exigências. O modelo aceita texto, imagens e vídeo, produz texto e integra compreensão visual ao mesmo sistema de raciocínio, programação e uso de ferramentas. Sua arquitetura mixture-of-experts possui 120 bilhões de parâmetros no total, com 12 bilhões ativos por token.
O lançamento inclui checkpoints base, pós-treinados e NVFP4, além de recursos de treinamento. Para equipes que o estão avaliando, as perguntas práticas são como personalizá-lo, o que as comparações de desempenho medem e qual configuração de implantação se adapta ao seu hardware.
O cartão oficial do modelo NVFP4 descreve um híbrido de camadas Mamba-2, atenção e mixture-of-experts, conectado a um codificador de visão C-RADIO. Essa disposição oferece suporte ao processamento de linguagem de contexto longo em conjunto com entradas visuais.
| Item | Detalhe documentado oficialmente |
|---|---|
| Parâmetros totais e ativos | 120B no total; 12B ativos por token |
| Entrada e saída | Texto, imagens e vídeo como entrada; texto como saída |
| Contexto máximo do modelo | Até 1 milhão de tokens |
| Componentes de visão | Codificador C-RADIO e conector visão-linguagem |
| Decodificação especulativa | Previsão nativa de múltiplos tokens; LiLiCorr disponível |
| Exemplos de implantação NVFP4 | Um DGX Spark, um H200, dois H100s ou um GB200 |
| Integrações de runtime | vLLM, SGLang e TensorRT-LLM |
| Licença listada no cartão NVFP4 | OpenMDW-1.1 |
O contexto máximo é compartilhado entre o prompt, o material visual, o histórico da conversa, os resultados de ferramentas e a resposta. Uma receita de serving específica pode configurar uma janela menor para atender aos requisitos de memória e concorrência. Da mesma forma, os exemplos de hardware listados descrevem configurações compatíveis, e não uma promessa de que toda carga de trabalho caberá com o contexto máximo.
Tarefas de documentos podem fornecer páginas como imagens com texto correspondente. O cartão do modelo também descreve entradas de vídeo MP4 de até dois minutos; o suporte a vídeo de entrada não deve ser confundido com geração de vídeo, pois este modelo produz texto.
A NVIDIA identifica programação, pesquisa na web, inteligência documental, cibersegurança e análise de vídeo como aplicações-alvo. Um agente de documentos pode relacionar um gráfico a uma tabela em outra página. Um agente de pesquisa pode reunir evidências de várias fontes, enquanto um fluxo de segurança poderia interpretar descobertas e priorizar ações de acompanhamento.
O modelo também desempenha um papel dentro de uma coleção maior de modelos. A NVIDIA posiciona o Nemotron 3.5 Lightning para trabalho textual de alto volume, o Super VL para tarefas especializadas que envolvem evidência visual e ferramentas, e o Nemotron 3 Ultra para planejamento e orquestração mais exigentes.
Fonte: anúncio da NVIDIA, usando uma comparação da Artificial Analysis. O gráfico mostra o Super VL acima de 600 tokens de saída por segundo no endpoint da Baseten e destaca uma comparação de velocidade de aproximadamente cinco vezes com o Inkling Small. A comparação é específica da configuração reportada e da condição de 100.000 tokens de entrada.
A geração rápida de tokens ajuda em chamadas repetidas de agentes, mas é apenas uma parte do desempenho da tarefa. Um modelo que faz chamadas de ferramentas desnecessárias ou produz rastros de raciocínio longos ainda pode levar mais tempo para concluir um trabalho.
Políticas da empresa, esquemas de ferramentas e terminologia de domínio definem se um agente conclui o trabalho corretamente. A abordagem proposta pela NVIDIA é pós-treinar o modelo usando uma combinação de exemplos proprietários e conjuntos de dados públicos relevantes.
O NeMo AutoModel oferece suporte a fine-tuning supervisionado e adaptação de baixa classificação. O NeMo RL e o NeMo Gym fornecem recursos de aprendizado por reforço e avaliação baseada em ambientes. O NeMo Data Designer inclui receitas para perguntas e respostas sobre gráficos e compreensão de documentos longos.
O anúncio descreve diversas aplicações de parceiros:
Fonte: NVIDIA e as organizações nomeadas na figura. Estas são tarefas especializadas diferentes, cada uma com suas próprias configurações de avaliação, e não um único benchmark compartilhado.
A NVIDIA também está lançando dados de conversação, uso de ferramentas, finanças, seguimento de instruções, contexto longo e imparcialidade, juntamente com 40 conjuntos de dados de visão-linguagem. A utilidade deles depende do fluxo de trabalho-alvo e dos termos associados a cada conjunto de dados.
O treinamento visual abrange OCR, gráficos, tabelas, documentos com várias páginas e vídeo. Um pipeline de fine-tuning supervisionado em duas etapas combina evidência visual com exemplos de raciocínio, chat, segurança, contexto longo e trajetórias de agentes.
No anúncio, a NVIDIA relata uma pontuação de 80,8% no CharXiv para raciocínio sobre gráficos, subindo para 84% com interpretação de código Python. O cartão oficial informa separadamente resultados específicos por checkpoint: 80,82 para BF16 e 79,88 para NVFP4 no raciocínio CharXiv. Esses números descrevem configurações declaradas diferentes e devem permanecer associados a essas configurações.
O artigo de lançamento também apresenta as seguintes avaliações de agentes:
| Modelo | Hermes Bench | LangChain Evals |
|---|---|---|
| Nemotron 3 Ultra | 56,33% | 84,3% |
| Nemotron 3.5 Super VL | 63,44% | 87,05% |
Fonte: comparação publicada pela NVIDIA. Um resultado nessas avaliações não estabelece superioridade em todas as tarefas de agentes.
Fonte: NVIDIA. A figura utiliza NVFP4, quatro GPUs B200 e uma meta de 50 tokens por segundo por usuário; sua comparação destacada de tempo de conclusão quatro vezes menor é específica dessa configuração.
Para uso local, a NVIDIA aponta para uma avaliação da EXO Labs no DGX Spark. A figura publicada coloca o Super VL na fronteira entre precisão e tempo de tarefa, o que representa uma troca entre velocidade e qualidade, e não necessariamente a pontuação mais alta possível em cada nível de latência.
Fonte: comparação local.ai/EXO Labs reproduzida pela NVIDIA. O eixo de tempo de tarefa é logarítmico.
Descreva sua ideia uma vez e o We0 AI pode gerar um site de apresentacao, paginas e CMS, alem de ajudar a atrair clientes e trafego apos o lancamento.
Uma geração completa de projetos para registro gratuito
Melhor para experimentar um fluxo de geração completo e ver rapidamente um primeiro rascunho do projeto.
A NVIDIA descreve a destilação a partir do Nemotron 3 Ultra, seguida por treinamento destinado a melhorar programação, uso de ferramentas, raciocínio visual e cobertura de idiomas. A destilação on-policy com múltiplos professores permite que professores especializados avaliem respostas geradas pelo modelo antes que suas capacidades sejam consolidadas.
O treinamento de engenharia de software inclui repositórios, materiais de issues e pull requests, logs de compilação e trajetórias de agentes. O anúncio também descreve uma contribuição de dados índicos desenvolvida com o IIT Madras e a AI4Bharat, com uma coleção completa lançada de cerca de 2,8 trilhões de tokens em 22 idiomas indianos.
Fonte: NVIDIA. A figura compara o modelo pós-treinado com os checkpoints Sarvam e Gemma especificados nas avaliações índicas exibidas.
O LiLiCorr avalia a compatibilidade entre candidatos a tokens de rascunho para que a decodificação especulativa possa propor sequências mais coerentes. A NVIDIA o recomenda para inferência de baixa latência no DGX Spark e relata geração de tokens até 2,3 vezes mais rápida do que a decodificação sem especulação.
O modelo também inclui uma cabeça de previsão de múltiplos tokens. Um gerador de rascunho propõe vários tokens futuros, e o modelo principal os verifica em conjunto. Aceitar vários tokens em uma única passagem pode reduzir o número de etapas dispendiosas de verificação.
A quantização reduz a memória do modelo, enquanto a destilação consciente de quantização treina o modelo comprimido para acompanhar as saídas do modelo BF16. A NVIDIA afirma que a receita usa pesos e ativações de 4 bits em Blackwell e pesos de 4 bits com ativações de 16 bits em plataformas não Blackwell, conforme a configuração de serving.
Componentes sensíveis mantêm maior precisão. O cartão do modelo especifica BF16 para o codificador de visão, o conector, as convoluções Mamba e os embeddings, com o roteador MoE em FP32. Portanto, “NVFP4” não significa que todos os componentes operam em quatro bits.
Chamadas de agentes contêm repetidamente as mesmas instruções de sistema, definições de ferramentas e mensagens anteriores. O cache de prefixo pode reutilizar esse processamento.
As otimizações de serving preservam caches de atenção e estados recorrentes do Mamba. Checkpoints adicionais reduzem a quantidade de trabalho repetido durante a decodificação especulativa e o processamento de prompts.
O NVIDIA NIM empacota mecanismos de inferência otimizados, configurações validadas e APIs padrão. O suporte empresarial está disponível por meio do NVIDIA AI Enterprise.
O Dynamo aborda a inferência distribuída por meio de roteamento sensível a cache, gerenciamento de cache KV e serving desagregado. Em um teste reportado com 16 GPUs B200 a 50 tokens por segundo por usuário, a NVIDIA afirma que uma receita com afinidade de sessão e descarregamento de cache atendeu até oito vezes mais usuários, reduzindo o tempo até o primeiro token em 85%.
Fonte: NVIDIA. A figura especifica SWE-bench Pro em 16 GPUs B200 e 50 tokens por segundo por usuário.
Para uma implantação inicial, escolha uma receita específica para o hardware no cookbook oficial ou no cartão do modelo, confirme sua versão de runtime e estabeleça uma linha de base com tarefas representativas. Meça conjuntamente a precisão de conclusão, o total de tokens, as chamadas de ferramentas, a latência e a memória antes de aumentar a concorrência ou o comprimento do contexto.
É um modelo de visão-linguagem para raciocínio, programação, uso de ferramentas, compreensão de documentos e análise de vídeo. Destina-se a agentes especializados que precisam combinar evidência visual com texto e ações em várias etapas.
O cartão oficial do modelo lista texto, imagens e vídeo como entradas, com texto como saída. Sua capacidade de vídeo significa compreender vídeos fornecidos, e não criar um novo clipe de vídeo.
Sim, a NVIDIA publica uma configuração de DGX Spark para o checkpoint NVFP4. Essa receita possui configurações específicas de concorrência e decodificação especulativa, portanto seu comportamento de memória e desempenho deve ser avaliado como uma configuração completa.
O modelo oferece suporte a um contexto máximo de até um milhão de tokens. As receitas de serving reais podem usar janelas menores para acomodar a memória de hardware, as entradas visuais e as solicitações simultâneas.
O NeMo AutoModel fornece recursos de fine-tuning supervisionado e LoRA para o modelo. A NVIDIA também disponibiliza links para o NeMo RL e o NeMo Gym, voltados a aprendizado por reforço e avaliação baseada em fluxos de trabalho.
O cartão oficial no Hugging Face identifica a OpenMDW-1.1 e descreve uso comercial e não comercial. Revise o acordo real e quaisquer licenças separadas de conjuntos de dados ou software para a implantação pretendida.
O Nemotron 3.5 Super VL combina compreensão visual, raciocínio e uso de ferramentas em um modelo de 120 bilhões de parâmetros que ativa 12 bilhões de parâmetros por token. Seu lançamento fornece às equipes checkpoints e recursos de personalização para fluxos de trabalho especializados de documentos, pesquisa, programação e outros agentes.
Os ganhos de velocidade publicados dependem de hardware, precisão, software de serving e condições de avaliação. Use as receitas oficiais de implantação e meça tarefas completas com seus próprios dados antes de converter ganhos de benchmark em expectativas de produção.
Comece com uma frase e tenha um site completo em minutos.
