For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/ja/articles/nemotron-3-5-super-vl-specs-benchmarks-an-1bd03819.md.
エンタープライズエージェントには、テキストによる回答以上の能力が求められることが少なくありません。サプライヤー文書の処理では、グラフを読み取り、表を抽出し、社内ポリシーを適用し、結果を返す前に業務ツールを呼び出す必要があります。
エンタープライズエージェントには、テキストによる回答以上の能力が求められることが少なくありません。サプライヤー文書の処理では、グラフを読み取り、表を抽出し、社内ポリシーを適用し、結果を返す前に業務ツールを呼び出す必要があります。
NVIDIAは、こうした要件を組み合わせる業務向けにNemotron 3.5 Super VLをリリースしました。このモデルはテキスト、画像、動画を受け取り、テキストを出力します。また、視覚理解を推論、コーディング、ツール利用と同じシステムに統合します。そのMixture-of-Expertsアーキテクチャは、総パラメータ数1,200億、トークン当たりのアクティブパラメータ数120億です。
このリリースには、ベース、ポストトレーニング済み、NVFP4の各チェックポイントに加え、トレーニング用リソースが含まれます。導入を検討するチームにとって実務上の論点は、カスタマイズ方法、性能比較が何を測定しているか、そして自社のハードウェアに適したデプロイメント構成です。
公式のNVFP4モデルカードでは、Mamba-2、アテンション、Mixture-of-Expertsレイヤーを組み合わせ、C-RADIOビジョンエンコーダーに接続したハイブリッド構成が説明されています。この構成により、長文コンテキストの言語処理と視覚入力の両方をサポートします。
| 項目 | 公式に文書化された詳細 |
|---|---|
| 総パラメータ数とアクティブパラメータ数 | 総数1,200億、トークン当たりアクティブ1,200億ではなく120億 |
| 入力と出力 | テキスト、画像、動画を入力し、テキストを出力 |
| 最大モデルコンテキスト | 最大100万トークン |
| ビジョンコンポーネント | C-RADIOエンコーダーおよびビジョン・ランゲージコネクター |
| 投機的デコーディング | ネイティブのマルチトークン予測、LiLiCorrを利用可能 |
| NVFP4デプロイメント例 | DGX Spark 1台、H200 1台、H100 2基、またはGB200 1台 |
| ランタイム統合 | vLLM、SGLang、TensorRT-LLM |
| NVFP4カードに記載されたライセンス | OpenMDW-1.1 |
最大コンテキストは、プロンプト、視覚素材、会話履歴、ツールの結果、応答で共有されます。特定のサービングレシピでは、メモリおよび同時実行性の要件に合わせるため、より小さいウィンドウが設定される場合があります。同様に、記載されているハードウェア例は対応構成を示すものであり、すべてのワークロードが最大コンテキストで動作することを保証するものではありません。
文書タスクでは、ページを画像として、付随するテキストとともに入力できます。モデルカードでは、最大2分のMP4動画入力についても説明されています。入力動画のサポートは動画生成と混同すべきではありません。このモデルが出力するのはテキストです。
NVIDIAは、コーディング、ウェブリサーチ、文書インテリジェンス、サイバーセキュリティ、動画分析を対象アプリケーションとして挙げています。文書エージェントは、グラフを別ページの表と関連付けることができます。リサーチエージェントは複数の情報源から根拠を収集でき、セキュリティワークフローでは、検出結果を解釈してフォローアップ対応に優先順位を付けられます。
このモデルは、より大きなモデル群の中でも役割を持ちます。NVIDIAは、Nemotron 3.5 Lightningを大量テキスト処理向け、Super VLを視覚的証拠とツールを伴う特化タスク向け、Nemotron 3 Ultraをより高度な計画とオーケストレーション向けに位置付けています。
出典：Artificial Analysisの比較を用いたNVIDIAの発表。このグラフは、Basetenエンドポイント上でSuper VLが毎秒600出力トークンを超えたこと、およびInkling Smallとの約5倍の速度比較を示しています。この比較は、報告された構成および入力100,000トークンという条件に固有のものです。
高速なトークン生成は、反復的なエージェント呼び出しに役立ちますが、タスク性能の一部にすぎません。不必要なツール呼び出しを行ったり、長い推論トレースを生成したりするモデルは、ジョブ完了までにより長い時間を要する場合があります。
企業ポリシー、ツールスキーマ、ドメイン固有の用語は、エージェントが業務を正しく完了できるかを左右します。NVIDIAが提案するアプローチは、独自の事例と関連する公開済みデータセットを組み合わせてモデルをポストトレーニングすることです。
NeMo AutoModelは、教師ありファインチューニングと低ランク適応をサポートします。NeMo RLおよびNeMo Gymは、強化学習と環境ベースの評価リソースを提供します。NeMo Data Designerには、グラフ質問応答および長文書理解のレシピが含まれています。
発表では、複数のパートナー事例が説明されています。
出典：NVIDIAおよび図中に記載された組織。これらはそれぞれ独自の評価設定を持つ異なる特化タスクであり、単一の共通ベンチマークではありません。
NVIDIAは、会話、ツール利用、金融、指示追従、長文コンテキスト、公平性に関するデータに加え、40のビジョン・ランゲージデータセットも公開しています。それらの有用性は、対象ワークフローと各データセットに付随する条件に依存します。
視覚トレーニングは、OCR、グラフ、表、複数ページの文書、動画を対象としています。2段階の教師ありファインチューニングパイプラインでは、視覚的証拠を推論、チャット、安全性、長文コンテキストの事例、エージェント軌跡と組み合わせます。
発表においてNVIDIAは、CharXivのグラフ推論スコア80.8%を報告しており、Pythonコード解釈を用いると84%に上昇するとしています。公式カードでは、チェックポイント固有の結果として、CharXiv推論でBF16が80.82、NVFP4が79.88と別途報告されています。これらの数値は、記載された異なる構成を表しており、それぞれの構成と結び付けて解釈すべきです。
ローンチ記事では、以下のエージェント評価も示されています。
| モデル | Hermes Bench | LangChain Evals |
|---|---|---|
| Nemotron 3 Ultra | 56.33% | 84.3% |
| Nemotron 3.5 Super VL | 63.44% | 87.05% |
出典：NVIDIAが公開した比較。これらの評価における結果は、すべてのエージェントタスクにおける優位性を示すものではありません。
出典：NVIDIA。この図はNVFP4、B200 GPU 4基、ユーザー当たり毎秒50トークンを目標としており、強調されている4倍の完了時間比較はこの構成に固有のものです。
ローカル利用について、NVIDIAはDGX Spark上のEXO Labs評価を参照しています。公開された図では、Super VLは精度とタスク時間のフロンティア上に配置されており、これは、あらゆるレイテンシーで最高スコアを達成することではなく、速度と品質のトレードオフを表しています。
出典：NVIDIAが再掲したlocal.ai/EXO Labsの比較。タスク時間の軸は対数スケールです。
アイデアを一文で入力するだけで、We0 AI が紹介サイト、ページ、CMS を生成し、公開後の顧客獲得と流入拡大を支援します。
無料登録で完全なプロジェクトを 1 つ生成
1 つの完全な生成フローを試し、最初のプロジェクトのドラフトをすぐに確認するのに最適です。
NVIDIAは、Nemotron 3 Ultraからの蒸留を行い、その後、コーディング、ツール利用、視覚推論、言語カバレッジの改善を目的としたトレーニングを実施したと説明しています。複数教師によるオンポリシー蒸留では、特化した教師モデルがモデル生成応答を採点してから、その能力を統合します。
ソフトウェアエンジニアリングのトレーニングには、リポジトリ、Issueおよびプルリクエストの資料、ビルドログ、エージェント軌跡が含まれます。発表ではさらに、IIT MadrasおよびAI4Bharatと共同開発したIndicデータへの貢献についても説明されています。公開された完全なコレクションは、インドの22言語にわたり約2.8兆トークンで構成されます。
出典：NVIDIA。この図は、表示されたIndic評価において、ポストトレーニング済みモデルを指定されたSarvamおよびGemmaのチェックポイントと比較しています。
LiLiCorrは、ドラフトトークン候補間の互換性を評価し、投機的デコーディングでより整合性のあるシーケンスを提案できるようにします。NVIDIAは低レイテンシーのDGX Spark推論向けにこれを推奨しており、投機なしのデコーディングと比べて、最大2.3倍高速なトークン生成を報告しています。
モデルにはマルチトークン予測ヘッドも含まれています。ドラフターが複数の将来トークンを提案し、メインモデルがそれらをまとめて検証します。1回のパスで複数トークンを受け入れることで、高コストな検証ステップの回数を減らせます。
量子化はモデルメモリを削減し、量子化対応蒸留では、圧縮されたモデルがBF16モデルの出力に追従するようトレーニングします。NVIDIAによると、サービング構成に応じて、このレシピではBlackwell上で4ビットの重みとアクティベーションを使用し、非Blackwellプラットフォーム上では4ビットの重みと16ビットのアクティベーションを使用します。
センシティブなコンポーネントでは、より高い精度が維持されます。モデルカードでは、ビジョンエンコーダー、コネクター、Mamba畳み込み、埋め込みにBF16を、MoEルーターにFP32を指定しています。したがって、「NVFP4」はすべてのコンポーネントが4ビットで実行されることを意味しません。
エージェント呼び出しには、同じシステム指示、ツール定義、以前のメッセージが繰り返し含まれます。プレフィックスキャッシュにより、この計算を再利用できます。
サービング最適化では、アテンションキャッシュとMambaの再帰状態を保持します。追加のチェックポイントにより、投機的デコーディングおよびプロンプト処理中に再実行する処理量が減少します。
NVIDIA NIMは、最適化された推論エンジン、検証済み構成、標準APIをパッケージ化します。エンタープライズサポートはNVIDIA AI Enterpriseを通じて利用できます。
Dynamoは、キャッシュ認識ルーティング、KVキャッシュ管理、分離型サービングを通じて分散推論に対応します。ユーザー当たり毎秒50トークンでB200 GPU 16基を使用した報告済みテストにおいて、NVIDIAは、セッションアフィニティとキャッシュオフロードを使用するレシピが、最大8倍のユーザー数を処理しつつ、最初のトークンまでの時間を85%短縮したとしています。
出典：NVIDIA。この図は、B200 GPU 16基、ユーザー当たり毎秒50トークン、SWE-bench Proを指定しています。
初期デプロイメントでは、公式のCookbookまたはモデルカードからハードウェア固有のレシピを選択し、ランタイムバージョンを確認して、代表的なタスクでベースラインを確立してください。同時実行数やコンテキスト長を増やす前に、完了精度、総トークン数、ツール呼び出し数、レイテンシー、メモリをまとめて測定します。
これは、推論、コーディング、ツール利用、文書理解、動画分析のためのビジョン・ランゲージモデルです。視覚的証拠とテキスト、多段階のアクションを組み合わせる必要がある特化型エージェントを対象としています。
公式モデルカードでは、テキスト、画像、動画が入力として、テキストが出力として記載されています。動画機能は、提供された動画を理解することを意味し、新しい動画クリップを作成することではありません。
はい。NVIDIAはNVFP4チェックポイント用のDGX Spark構成を公開しています。このレシピには固有の同時実行性および投機的デコーディング設定があるため、そのメモリと性能の挙動は完全な構成として評価する必要があります。
モデルは最大100万トークンのコンテキストをサポートします。実際のサービングレシピでは、ハードウェアメモリ、視覚入力、同時リクエストに対応するため、より小さいウィンドウを使用する場合があります。
NeMo AutoModelは、このモデル向けに教師ありファインチューニングおよびLoRAリソースを提供しています。NVIDIAは、強化学習とワークフローベースの評価向けに、NeMo RLおよびNeMo Gymもリンクしています。
公式のHugging FaceカードではOpenMDW-1.1が示され、商用および非商用利用について説明されています。想定するデプロイメントについて、実際の契約内容ならびに個別のデータセットまたはソフトウェアライセンスを確認してください。
Nemotron 3.5 Super VLは、視覚理解、推論、ツール利用を組み合わせた総パラメータ数1,200億のモデルであり、トークン当たり120億のパラメータをアクティブ化します。このリリースにより、チームは文書、リサーチ、コーディング、その他の特化型エージェントワークフロー向けのチェックポイントとカスタマイズリソースを利用できます。
公開されている高速化の結果は、ハードウェア、精度、サービングソフトウェア、評価条件に依存します。ベンチマーク上の改善を本番環境の期待値に置き換える前に、公式のデプロイメントレシピを使用し、自社データで完全なタスクを測定してください。
ひとことから始めて、数分で完全なサイトを手に入れましょう。
