For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/zh-TW/articles/nemotron-3-5-super-vl-specs-benchmarks-an-1bd03819.md.
企業代理通常不只需要一個文字答案。處理供應商文件可能需要閱讀圖表、擷取表格、套用內部政策，並在回傳結果前呼叫業務工具。
NVIDIA 發布了 Nemotron 3.5 Super VL，用於整合這些需求的工作。該模型可接受文字、圖片與影片輸入，產出文字，並將視覺理解與推理、程式設計及工具使用整合在同一系統中。其混合專家架構擁有 1,200 億個總參數，每個 Token 啟用 120 億個參數。
此次發布包含基礎版、後訓練版與 NVFP4 檢查點，以及訓練資源。對於正在評估該模型的團隊而言，實際問題包括如何進行客製化、效能比較衡量的是什麼，以及哪一種部署設定適合其硬體。
官方 NVFP4 模型卡將其描述為由 Mamba-2、注意力機制與混合專家層組成的混合架構，並連接至 C-RADIO 視覺編碼器。這種配置支援長上下文語言處理以及視覺輸入。
| 項目 | 官方文件說明 |
|---|---|
| 總參數與啟用參數 | 總計 1,200 億；每個 Token 啟用 120 億 |
| 輸入與輸出 | 文字、圖片與影片輸入；文字輸出 |
| 模型最大上下文 | 最多 100 萬個 Token |
| 視覺元件 | C-RADIO 編碼器與視覺語言連接器 |
| 推測式解碼 | 原生多 Token 預測；可使用 LiLiCorr |
| NVFP4 部署範例 | 一台 DGX Spark、一台 H200、兩台 H100 或一台 GB200 |
| 執行階段整合 | vLLM、SGLang 與 TensorRT-LLM |
| NVFP4 模型卡所列授權 | OpenMDW-1.1 |
最大上下文由提示詞、視覺素材、對話歷程、工具結果與回應共同使用。特定的服務配方可能會設定較小的視窗，以符合記憶體與並行處理需求。同樣地，所列出的硬體範例描述的是支援的設定，並不保證每一種工作負載都能以最大上下文執行。
文件任務可將頁面作為圖片並搭配相關文字提供。模型卡也描述了最長兩分鐘的 MP4 影片輸入；支援輸入影片不應與生成影片混淆，因為此模型輸出的是文字。
NVIDIA 將程式設計、網路研究、文件智慧、資安與影片分析列為目標應用。文件代理可能需要將圖表與另一頁的表格關聯起來。研究代理可能需要跨來源蒐集證據，而安全工作流程則可能解讀發現並排定後續行動的優先順序。
該模型也可在更大的模型組合中發揮作用。NVIDIA 將 Nemotron 3.5 Lightning 定位為高量文字工作模型，將 Super VL 定位為涉及視覺證據與工具的專用任務模型，並將 Nemotron 3 Ultra 定位為用於更高需求規劃與編排的模型。
資料來源：NVIDIA 的公告，採用 Artificial Analysis 的比較。圖表顯示 Super VL 在 Baseten 端點上的輸出速度超過每秒 600 個 Token，並標示出相較於 Inkling Small 約五倍的速度比較。此比較僅適用於所報告的設定與 100,000 個輸入 Token 的條件。
快速的 Token 生成有助於重複的代理呼叫，但這只是任務效能的一部分。一個模型若進行不必要的工具呼叫或產生冗長的推理軌跡，完成工作所需的時間仍可能更久。
公司政策、工具綱要與領域術語，會影響代理能否正確完成工作。NVIDIA 提出的做法是使用專有範例與相關已發布資料集的組合，對模型進行後訓練。
NeMo AutoModel 支援監督式微調與低秩適應。NeMo RL 與 NeMo Gym 提供強化學習及以環境為基礎的評估資源。NeMo Data Designer 包含圖表問答與長文件理解的配方。
公告描述了數個合作夥伴應用：
資料來源：NVIDIA 與圖中列出的組織。這些是各自擁有評估設定的不同專用任務，而非單一共用基準測試。
NVIDIA 也正在發布對話、工具使用、金融、指令遵循、長上下文與公平性資料，以及 40 個視覺語言資料集。它們的實用性取決於目標工作流程，以及各資料集附帶的條款。
視覺訓練涵蓋 OCR、圖表、表格、多頁文件與影片。兩階段監督式微調流程將視覺證據與推理、對話、安全性、長上下文範例及代理軌跡結合。
在公告中，NVIDIA 報告 CharXiv 圖表推理分數為 80.8%，使用 Python 程式碼解讀後上升至 84%。官方模型卡另行報告特定檢查點的結果：CharXiv 推理的 BF16 為 80.82，NVFP4 為 79.88。這些數字描述的是不同的既定設定，應與相應設定一併理解。
發布文章也提供了以下代理評估：
| 模型 | Hermes Bench | LangChain Evals |
|---|---|---|
| Nemotron 3 Ultra | 56.33% | 84.3% |
| Nemotron 3.5 Super VL | 63.44% | 87.05% |
資料來源：NVIDIA 發布的比較結果。這些評估的結果並不能證明其在每一種代理任務上均具優勢。
資料來源：NVIDIA。該圖使用 NVFP4、四張 B200 GPU，並以每位使用者每秒 50 個 Token 為目標；其中標示的四倍完成時間比較僅適用於該設定。
針對本地使用，NVIDIA 指向 EXO Labs 在 DGX Spark 上的評估。已發布的圖表將 Super VL 放在準確率與任務時間的前緣位置，這代表速度與品質之間的取捨，而不是在每種延遲條件下均擁有最高分數。
資料來源：由 NVIDIA 重製的 local.ai/EXO Labs 比較。任務時間軸採用對數刻度。
輸入一句想法，We0 AI 即可生成展示站、頁面與 CMS。發佈上線後並幫你獲取客戶和流量。
用戶註冊贈送一次完整項目生成
適合先體驗一次完整生成流程，快速看到專案初稿。
NVIDIA 說明先從 Nemotron 3 Ultra 進行蒸餾，再進行旨在提升程式設計、工具使用、視覺推理及語言覆蓋能力的訓練。多教師在策略蒸餾可讓專用教師對模型生成的回應進行評分，再整合其能力。
軟體工程訓練包含程式碼儲存庫、議題與提取請求材料、建置日誌及代理軌跡。公告亦提到與 IIT Madras 及 AI4Bharat 合作開發的 Indic 資料貢獻，其完整發布的集合涵蓋約 2.8 兆個 Token，涉及 22 種印度語言。
資料來源：NVIDIA。該圖在所顯示的 Indic 評估中，比較後訓練模型與指定的 Sarvam 及 Gemma 檢查點。
LiLiCorr 會為草稿 Token 候選項之間的相容性評分，使推測式解碼能夠提出更連貫的序列。NVIDIA 建議將其用於低延遲 DGX Spark 推論，並報告其 Token 生成速度最多可比未使用推測式解碼快 2.3 倍。
該模型也包含多 Token 預測頭。起草器會提出數個未來 Token，而主模型會一併驗證它們。一次接受多個 Token 可減少高成本驗證步驟的數量。
量化可降低模型記憶體需求，而量化感知蒸餾會訓練壓縮後的模型遵循 BF16 模型的輸出。NVIDIA 表示，根據服務設定，該配方在 Blackwell 上使用 4 位元權重與啟用值，而在非 Blackwell 平台上使用 4 位元權重與 16 位元啟用值。
敏感元件會保留較高精度。模型卡指定視覺編碼器、連接器、Mamba 卷積與嵌入使用 BF16，而 MoE 路由器使用 FP32。因此，「NVFP4」並不代表每個元件都以四位元執行。
代理呼叫會重複包含相同的系統指令、工具定義與先前訊息。前綴快取可以重複使用這些運算。
服務最佳化會保留注意力快取與 Mamba 循環狀態。額外的檢查點可減少在推測式解碼與提示詞處理期間需要重播的工作量。
NVIDIA NIM 封裝了最佳化推論引擎、經驗證的設定與標準 API。企業支援可透過 NVIDIA AI Enterprise 取得。
Dynamo 透過快取感知路由、KV 快取管理與解耦服務處理分散式推論。NVIDIA 表示，在一項以 16 張 B200 GPU、每位使用者每秒 50 個 Token 進行的測試中，使用工作階段親和性與快取卸載的配方最多可服務八倍的使用者，同時將首個 Token 的時間縮短 85%。
資料來源：NVIDIA。該圖指定使用 SWE-bench Pro、16 張 B200 GPU，以及每位使用者每秒 50 個 Token。
對於初始部署，請從官方 cookbook 或模型卡中選擇硬體專屬配方，確認其執行階段版本，並在具代表性的任務上建立基準。在提高並行處理量或上下文長度之前，應一併衡量完成準確率、總 Token 數、工具呼叫、延遲與記憶體。
它是一個用於推理、程式設計、工具使用、文件理解與影片分析的視覺語言模型。其設計用途是支援需要整合視覺證據、文字與多步驟行動的專用代理。
官方模型卡將文字、圖片與影片列為輸入，並將文字列為輸出。其影片能力是理解所提供的影片，而不是建立新的影片片段。
可以，NVIDIA 發布了適用於 NVFP4 檢查點的 DGX Spark 設定。該配方有特定的並行處理與推測式解碼設定，因此應將其視為完整設定，評估其記憶體與效能表現。
該模型支援最多 100 萬個 Token 的最大上下文。實際服務配方可能會使用較小的視窗，以容納硬體記憶體、視覺輸入與並行請求。
NeMo AutoModel 為該模型提供監督式微調與 LoRA 資源。NVIDIA 也連結至 NeMo RL 與 NeMo Gym，以支援強化學習與基於工作流程的評估。
官方 Hugging Face 模型卡標示 OpenMDW-1.1，並說明商業與非商業使用。請針對預期部署審閱實際協議，以及任何獨立的資料集或軟體授權。
Nemotron 3.5 Super VL 在一個擁有 1,200 億參數、每個 Token 啟用 120 億參數的模型中，結合了視覺理解、推理與工具使用。此次發布為團隊提供了適用於文件、研究、程式設計及其他專用代理工作流程的檢查點與客製化資源。
已發布的加速效果取決於硬體、精度、服務軟體與評估條件。在將基準測試增益轉化為生產環境預期之前，請使用官方部署配方，並在自身資料上衡量完整任務。
從一句話開始，幾分鐘內拿到完整網站。
