For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/zh/articles/nemotron-3-5-super-vl-specs-benchmarks-an-1bd03819.md.
企业智能体通常需要的不只是文本答案。处理一份供应商文档可能涉及阅读图表、提取表格、应用内部政策，并在返回结果前调用业务工具。
NVIDIA 发布了 Nemotron 3.5 Super VL，用于处理同时包含这些需求的工作。该模型可接受文本、图像和视频输入，生成文本输出，并将视觉理解与推理、编码和工具使用整合到同一系统中。其混合专家架构总参数量为 1200 亿，每个词元激活 120 亿参数。
此次发布包括基础版、后训练版和 NVFP4 检查点，以及训练资源。对于正在评估该模型的团队，实际问题在于如何进行定制、性能比较衡量的是什么，以及哪种部署配置适合其硬件。
官方 NVFP4 模型卡将其描述为 Mamba-2、注意力机制和混合专家层的混合架构，并连接至 C-RADIO 视觉编码器。该设计可在支持长上下文语言处理的同时处理视觉输入。
| 项目 | 官方文档说明 |
|---|---|
| 总参数量与激活参数量 | 总计 1200 亿；每个词元激活 120 亿 |
| 输入与输出 | 文本、图像和视频输入；文本输出 |
| 最大模型上下文 | 最多 100 万词元 |
| 视觉组件 | C-RADIO 编码器和视觉语言连接器 |
| 推测解码 | 原生多词元预测；可使用 LiLiCorr |
| NVFP4 部署示例 | 一台 DGX Spark、一台 H200、两台 H100 或一台 GB200 |
| 运行时集成 | vLLM、SGLang 和 TensorRT-LLM |
| NVFP4 模型卡所列许可证 | OpenMDW-1.1 |
最大上下文由提示词、视觉材料、对话历史、工具结果和回复共同占用。特定服务方案可能会配置较小的上下文窗口，以满足内存和并发需求。同样，所列硬件示例描述的是受支持的配置，而非承诺每项工作负载都能在最大上下文下运行。
文档任务可将页面作为图像连同配套文本一同提供。模型卡还描述了最长两分钟的 MP4 视频输入；支持输入视频不应与生成视频混淆，因为该模型输出的是文本。
NVIDIA 将编码、网页研究、文档智能、网络安全和视频分析列为目标应用。文档智能体可能需要将图表与另一页的表格关联起来。研究智能体可能需要跨来源收集证据，而安全工作流则可解释发现结果并确定后续行动的优先级。
该模型也可作为更大模型组合中的一环。NVIDIA 将 Nemotron 3.5 Lightning 定位于高吞吐量文本工作，将 Super VL 定位于涉及视觉证据和工具的专业任务，并将 Nemotron 3 Ultra 定位于要求更高的规划和编排任务。
来源：NVIDIA 的公告，采用 Artificial Analysis 的比较结果。图表显示，在 Baseten 端点上，Super VL 的输出速度超过每秒 600 个词元，并突出显示其与 Inkling Small 相比约五倍的速度差异。该比较仅适用于所报告的配置及 100,000 输入词元条件。
更快的词元生成有助于重复执行的智能体调用，但这只是任务性能的一部分。若模型进行了不必要的工具调用或生成较长的推理轨迹，完成工作所需时间仍可能更长。
公司的政策、工具模式和领域术语会影响智能体能否正确完成工作。NVIDIA 提出的方式是使用专有示例和相关已发布数据集的组合，对模型进行后训练。
NeMo AutoModel 支持监督微调和低秩适配。NeMo RL 和 NeMo Gym 提供强化学习和基于环境的评估资源。NeMo Data Designer 包含图表问答和长文档理解的配方。
公告介绍了若干合作伙伴应用：
来源：NVIDIA 及图中列出的机构。这些是具有各自评估设置的不同专业任务，并非一项共享基准测试。
NVIDIA 还发布了对话、工具使用、金融、指令遵循、长上下文和公平性数据，以及 40 个视觉语言数据集。它们的实用性取决于目标工作流和各数据集附带的条款。
视觉训练覆盖 OCR、图表、表格、多页文档和视频。两阶段监督微调流程将视觉证据与推理、对话、安全、长上下文示例和智能体轨迹相结合。
在公告中，NVIDIA 报告 CharXiv 图表推理得分为 80.8%，在加入 Python 代码解释后升至 84%。官方模型卡则单独报告了特定检查点的结果：BF16 在 CharXiv 推理上的得分为 80.82，NVFP4 为 79.88。这些数字对应不同的既定配置，因此应始终与相应配置一并理解。
发布文章还提供了以下智能体评估结果：
| 模型 | Hermes Bench | LangChain Evals |
|---|---|---|
| Nemotron 3 Ultra | 56.33% | 84.3% |
| Nemotron 3.5 Super VL | 63.44% | 87.05% |
来源：NVIDIA 发布的比较结果。这些评估中的结果并不能证明其在所有智能体任务中都更优。
来源：NVIDIA。该图使用 NVFP4、四块 B200 GPU，以及每位用户每秒 50 个词元的目标；其突出显示的四倍完成时间比较仅适用于这一配置。
对于本地使用，NVIDIA 指向 EXO Labs 在 DGX Spark 上的评估。已发布图表将 Super VL 置于准确率与任务时间的前沿位置，这反映的是速度与质量之间的权衡，而不是在每一种延迟下都能取得最高分数。
来源：由 NVIDIA 转载的 local.ai/EXO Labs 比较。任务时间轴采用对数刻度。
输入一句想法，We0 AI 即可生成展示站、页面与 CMS。发布上线后并帮你获取客户和流量。
用户注册赠送一次完整项目生成
适合先体验一次完整生成流程，快速看到项目初稿。
NVIDIA 描述了先从 Nemotron 3 Ultra 进行蒸馏，随后开展旨在提升编码、工具使用、视觉推理和语言覆盖能力的训练。多教师在线策略蒸馏可让专业教师在能力汇总前，对模型生成的回复进行评分。
软件工程训练包括代码仓库、议题和拉取请求材料、构建日志以及智能体轨迹。公告还介绍了与 IIT Madras 和 AI4Bharat 共同开发的印度语言数据贡献，完整发布集合覆盖 22 种印度语言，约包含 2.8 万亿词元。
来源：NVIDIA。该图在所展示的印度语言评估中，将后训练模型与指定的 Sarvam 和 Gemma 检查点进行了比较。
LiLiCorr 会评估草稿词元候选之间的兼容性，使推测解码能够提出更连贯的序列。NVIDIA 建议将其用于低延迟 DGX Spark 推理，并报告其词元生成速度最高可达无推测解码时的 2.3 倍。
该模型还包含多词元预测头。草稿模型会提出多个未来词元，主模型则同时验证它们。在一次处理过程中接受多个词元，可以减少高成本验证步骤的数量。
量化可减少模型内存占用，而量化感知蒸馏会训练压缩模型跟随 BF16 模型的输出。NVIDIA 表示，根据服务配置，该方案在 Blackwell 平台上使用 4 位权重和激活值，在非 Blackwell 平台上使用 4 位权重和 16 位激活值。
敏感组件会保留更高精度。模型卡规定，视觉编码器、连接器、Mamba 卷积和嵌入使用 BF16，MoE 路由器使用 FP32。因此，“NVFP4”并不意味着每个组件都以四位精度运行。
智能体调用会反复包含相同的系统指令、工具定义和早期消息。前缀缓存可以复用这些计算。
服务优化会保留注意力缓存和 Mamba 循环状态。额外的检查点可减少在推测解码和提示词处理期间需要重放的工作量。
NVIDIA NIM 打包了经过优化的推理引擎、经验证的配置和标准 API。企业支持可通过 NVIDIA AI Enterprise 获得。
Dynamo 通过缓存感知路由、KV 缓存管理和解耦式服务处理分布式推理。在一项使用 16 块 B200 GPU、每位用户每秒 50 个词元的报告测试中，NVIDIA 表示，采用会话亲和性和缓存卸载的方案在将首词元时间缩短 85% 的同时，最多可服务八倍数量的用户。
来源：NVIDIA。该图指定使用 16 块 B200 GPU、SWE-bench Pro 以及每位用户每秒 50 个词元。
对于初始部署，请从官方 cookbook 或模型卡中选择适合硬件的方案，确认其运行时版本，并在具有代表性的任务上建立基线。在提高并发量或上下文长度之前，应同时衡量完成准确率、总词元数、工具调用次数、延迟和内存。
它是一种用于推理、编码、工具使用、文档理解和视频分析的视觉语言模型。其面向需要结合视觉证据、文本和多步骤操作的专业智能体。
官方模型卡将文本、图像和视频列为输入，将文本列为输出。其视频能力是理解所提供的视频，而不是创建新的视频片段。
可以。NVIDIA 发布了适用于 NVFP4 检查点的 DGX Spark 配置。该方案具有特定的并发和推测解码设置，因此应将其作为完整配置来评估内存和性能表现。
该模型支持最多 100 万词元的最大上下文。实际服务方案可能会使用更小的窗口，以适应硬件内存、视觉输入和并发请求。
NeMo AutoModel 为该模型提供监督微调和 LoRA 资源。NVIDIA 还链接了用于强化学习和基于工作流评估的 NeMo RL 与 NeMo Gym。
官方 Hugging Face 模型卡标注为 OpenMDW-1.1，并说明可用于商业和非商业用途。对于计划部署，请审阅实际协议以及任何单独的数据集或软件许可证。
Nemotron 3.5 Super VL 在一个总参数量 1200 亿、每个词元激活 120 亿参数的模型中结合了视觉理解、推理和工具使用能力。此次发布为团队提供了适用于文档、研究、编码及其他专业智能体工作流的检查点和定制资源。
已发布的加速结果取决于硬件、精度、服务软件和评估条件。在将基准测试收益转化为生产预期之前，请使用官方部署方案，并在自己的数据上衡量完整任务。
从一句话开始，几分钟内拿到完整网站。
