Ling-3.1-flashのオープンウェイト：100万トークンのコンテキストとGPU要件

AntのInclusionAIは、長文書、推論、ツール支援タスク向けに設計されたMixture-of-Expertsモデル、Ling-3.1-flashのウェイトを公開しました。チームの前日の発表に続き、IT Homeが10月16日にリリースを報じました。

実務上の論点は、訴求されているコンテキストウィンドウを超える範囲にあります。自社デプロイを検討するチームは、ウェイトが占有するメモリ、ベンチマークで使用されたサービング構成、ワークロードに応じてレイテンシがどのように変化するかを把握する必要があります。公開された数値は、測定条件を切り離さない限り、有用な出発点になります。

モデル規模と公開評価

公式モデルカードによると、ハイブリッド線形MoEアーキテクチャを採用し、総パラメータ数は約5,600億、トークンあたりのアクティブパラメータ数は250億で、最大100万トークンのコンテキストウィンドウをサポートします。リポジトリにはMITライセンスが記載されています。

アクティブパラメータは、個々のトークンで使用されるネットワークの部分を表します。これは、デプロイ時に250億パラメータだけを保存すればよいことを意味しません。ハードウェアを選定する際には、ウェイトの保存容量とワーキングメモリが依然として重要です。

IT Homeは、Artificial Analysis Intelligence Indexのスコアが41、出力速度が毎秒約210トークンであると伝えています。本記事のために確認した評価ページでも同じスコアと毎秒約213トークンが表示されていますが、プロバイダーやテストの更新に伴い、ライブ測定値は変動する可能性があります。

IT Homeの報道で再掲されたArtificial Analysisのチャートです。これは特定時点の測定スナップショットであり、デプロイ速度を保証するものではありません。

情報源には、チームによるより広範なタスク評価チャートも含まれています。そのコーディングおよびターミナルの結果は評価ハーネスに依存しており、図表には一部の結果がLingCodeを用いて得られたことが記されています。この構成でのスコアを、ベースモデルを利用するすべてのアプリケーションにそのまま帰属させるべきではありません。

情報源レポートで提供されたチャートです。結果はモデルチームによる報告値です。

混合精度によるウェイトメモリの削減

報告された最適化済みデプロイでは、ルーテッドエキスパートにMXFP4を使用し、高密度層にはblock-FP8を維持しています。IT Homeによると、これによりウェイトメモリは約534 GBから292 GBへ削減され、対応するHopperのサービング構成は8 GPUから4 GPUへ移行可能になります。

これらは構成に固有の数値です。ウェイトのフットプリントはメモリ予算の一部に過ぎません。長いコンテキスト、複数の同時リクエスト、実装固有のバッファをサービングするには、追加の要件が発生します。メモリが不足した4基のGPUは、テスト済みの4 Hopperシステムと同等ではありません。

現行モデルカードの標準SGLang例では8基のH200 GPUを使用し、別途4基のGB300構成も説明しているため、この区別は特に重要です。いずれも、レポートの混合精度による4 Hopper実験の代替として、暗黙に置き換えるべきではありません。

長いコンテキストと構造化ツールコール

情報源は、長い入力を扱うためのPCPおよびDCPとされる、プリフィルおよびデコードのコンテキスト並列処理について説明しています。また、ツールコールに対するJSON Schemaサポートの強化も報告しており、既存の業務インターフェースに適合する引数をアシスタントが生成する必要がある場合に関連します。

モデルのコンテキスト上限、サービングエンジンに設定された最大値、ホスト型プロバイダーのリクエスト上限は、それぞれ異なる場合があります。非常に大きな文書を送信する前に、100万トークンという見出しの数値をすべての経路で受け付けられる保証と見なすのではなく、特定のエンドポイントまたはローカルサービングレシピを確認してください。

構造化された引数にも、アプリケーション側での検証が必要です。形式的に正しいツールコールであっても、誤った操作を要求したり、不正な値を含んだりする可能性があるため、スキーマ準拠とタスクの正確性は分けて評価すべきです。

レイテンシと処理能力：ワークロードを分けて比較する

IT Homeは、リクエスト分布とハードウェア台数が異なる2つのサービング実験を報告しています。

最初のワークロードは、大幅なキャッシュ再利用と短い出力の恩恵を受けています。2つ目は、指定されたレイテンシ目標の範囲内で、1インスタンスがどの程度のトラフィックを処理できるかを問うものです。各行の最速値を組み合わせると、レポートがテストしていないシステムを説明することになります。

キャパシティプランニングでは、文書長、応答長、キャッシュ再利用の代表的な分布を使用してください。レイテンシ分布の中央部分と遅いリクエストの両方を測定し、同時負荷下でもシステムがアプリケーションの要件を満たすことを確認します。

報告されたAPI割引とアクセス経路

情報源では、通常価格の25%、すなわち75%割引となる一時的なオファーが記載されています。引用された100万トークンあたりの料金は以下の通りです。

これらはレポートに記載されたローンチオファー時の数値であり、恒久的な価格コミットメントではありません。プロバイダーの提供状況、サポート対象コンテキスト長、割引は個別に変化する可能性があるため、購入判断ではOpenRouterのモデルページおよびサービスの請求情報を基準にしてください。

ウェイトはHugging FaceおよびModelScopeに掲載されています。実装にあたっては、現行モデルカードのサービングガイダンスから始めてください。情報源の記事自体はリリースレポートであり、完全なデプロイ手順は提供していません。

FAQ

Ling-3.1-flashとは何ですか？

これは、推論、長いコンテキストの処理、ツール支援タスク向けのInclusionAI言語モデルです。公式説明では、総パラメータ数は約5,600億、トークンあたりのアクティブパラメータ数は250億とされています。

モデルウェイトは公開されていますか？

はい。公式Hugging Faceリポジトリがモデルを提供しており、MITライセンスが記載されています。改変または再配布の前に、リポジトリの最新ファイルとライセンスを確認してください。

アクティブパラメータが250億であれば、デスクトップGPUに収まりますか？

いいえ。アクティブな計算量と保存が必要な総ウェイトは異なる量です。情報源で示された最適化済みウェイトのフットプリントは、追加のサービングメモリを除いて約292 GBです。

Ling-3.1-flashは4基のHopper GPUで実行できますか？

情報源は、特定の混合精度構成についてその結果を報告しています。あらゆる4枚のHopperカード、任意のコンテキスト長、または任意の同時実行設定で動作することを立証するものではありません。

604 msのレイテンシと1.36 QPSの結果は同じテストによるものですか？

いいえ。使用したハードウェア台数とリクエスト分布が異なります。結果を比較する際は、キャッシュヒット率、トークン長、レイテンシ制約を付随させたまま扱ってください。

割引されたAPI料金は恒久的ですか？

情報源では、このオファーは一時的なものとされています。コストを見積もる前に、選択するプロバイダーの最新料金、キャッシュポリシー、サポート対象コンテキスト上限を確認してください。

関連ツール

• Hugging Face上のLing-3.1-flash：公式モデルリポジトリでは、ウェイトと最新のサービングガイダンスを提供しています。
• OpenRouter：ウェイト全体のフットプリントを管理せずにモデルを評価できるホスト型API経路です。
• Artificial Analysis：インテリジェンス、レイテンシ、出力速度を理解するための独立測定値を提供します。

関連リンク

• IT Homeの情報源レポート：ここで取り上げたデプロイ実験と一時価格を含む、中国語のリリースレポートです。
• 公式モデルカード：アーキテクチャ、ライセンス、サービング例を直接確認してください。
• OpenRouterのモデル一覧：最新のプロバイダー選択肢とAPI料金を確認してください。
• Artificial Analysisの評価：モデルの測定済み速度とインテリジェンススコアを比較してください。
• InclusionAIのLingリポジトリ：より広範なLingプロジェクトを確認できます。ただし、古い例は以前のモデルを参照している点に注意してください。

まとめ

Ling-3.1-flashのオープンウェイトによりローカル評価が可能になり、報告された混合精度構成はストレージおよびGPU要件を低減します。長いコンテキストと構造化ツールコールは、文書量の多いアシスタントやエンタープライズワークフローに関連します。

有用なデプロイ比較は、精度、GPUメモリ、入力長、同時実行数、キャッシュ再利用を含む完全な構成です。公開されたベンチマークは普遍的なサービング保証ではなく、自社ワークロードに対して再現・検証すべきテスト結果として扱ってください。