For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/zh-HK/articles/ling-3-1-flash-open-weights-1m-context-an-61a6d80d.md.
螞蟻集團 InclusionAI 已發布 Ling-3.1-flash 的模型權重；這是一款專為長文件、推理及工具輔助工作設計的混合專家模型。[IT Home 於 10 月 16 日報導了此次發布](https://www.ithome.com/1/013/700.htm)，時間...
螞蟻集團 InclusionAI 已發布 Ling-3.1-flash 的模型權重；這是一款專為長文件、推理及工具輔助工作設計的混合專家模型。IT Home 於 10 月 16 日報導了此次發布，時間是在團隊前一天公布消息之後。
實務上的問題不僅在於其宣傳的上下文視窗。考慮自行部署的團隊，需要了解權重會占用多少記憶體、基準測試使用哪種服務配置，以及延遲如何隨工作負載變化。已公布的數據提供了有用的起點，前提是這些測試條件必須一併納入考量。
官方模型卡將其描述為混合線性 MoE 架構，約有 5,600 億個總參數，且每個 Token 有 250 億個活躍參數，支援最高 100 萬 Token 的上下文視窗。儲存庫列示採用 MIT 授權條款。
活躍參數描述的是處理單一 Token 時會被使用的網路部分。這並不代表部署時只需儲存 250 億個參數。在選擇硬體時，權重儲存與工作記憶體仍然十分重要。
IT Home 引述 Artificial Analysis Intelligence Index 分數為 41，輸出速度約為每秒 210 個 Token。本文查閱的評測頁面顯示相同分數及約每秒 213 個 Token；隨著服務供應商與測試更新，即時測量結果可能變動。
IT Home 報導中轉載的 Artificial Analysis 圖表。該圖顯示的是特定測量快照，而非保證的部署速度。
來源也包含團隊針對更廣泛任務的評測圖表。其程式設計與終端機結果取決於評測框架；圖中註明部分結果使用 LingCode 取得。該配置下的分數不應自動歸因於每一個使用基礎模型的應用程式。
來源報導提供的圖表；結果由模型團隊報告。
根據報導的最佳化部署，路由專家採用 MXFP4，而稠密層則維持 block-FP8。IT Home 表示，這將權重記憶體從約 534 GB 降至 292 GB，並使對應的 Hopper 服務配置可從八張 GPU 降至四張。
這些都是特定配置下的數據。權重占用空間只是記憶體預算的一部分：服務長上下文、多個同時請求與實作特定的緩衝區，都會帶來額外需求。記憶體不足的四張 GPU，並不等同於經過測試的四張 Hopper 系統。
這個差異尤其重要，因為目前模型卡的標準 SGLang 範例使用 八張 H200 GPU，同時另行說明一種四張 GB300 的配置。兩者都不應被悄然替換為報導中的混合精度四張 Hopper 實驗。
來源描述了用於處理長輸入的預填充與解碼上下文並行機制，分別標示為 PCP 與 DCP。它也報導模型對工具呼叫具有更強的 JSON Schema 支援；當助理必須產生符合既有業務介面的引數時，這項能力具有關聯性。
模型的上下文上限、服務引擎設定的最大值，以及託管供應商的請求限制可能彼此不同。在傳送超大型文件前，應檢查特定端點或本地服務方案，而不是把宣傳的 100 萬 Token 視窗視為保證每一條服務路徑都能接受的承諾。
結構化引數同樣需要應用程式端的驗證。格式正確的工具呼叫，仍可能請求錯誤操作或包含不正確數值，因此應分別評估 Schema 合規性與任務正確性。
IT Home 報導了兩項服務實驗，兩者的請求分布與硬體數量不同：
| 測量項目 | 報導的測試條件 | 結果 |
|---|---|---|
| 互動延遲 | 八張 Hopper GPU；平均輸入約 25.47K Token；輸出約 224 Token；76% 快取命中率 | 平均首 Token 時間：604 ms；平均輸出 Token 間隔：3.28 ms |
| 延遲限制下的吞吐量 | 四張 Hopper GPU；平均輸入約 8.5K Token；輸出約 800 Token | 約每秒 1.36 個查詢，TTFT P50 低於 3 秒，Token 間延遲 P90 低於 70 ms |
第一種工作負載受益於大量快取重用與較短輸出。第二種則是在維持其指定延遲目標下，衡量一個執行個體可承載多少流量。若將每一列中最快的數字組合在一起，將會描述一個報導並未測試過的系統。
輸入一句想法，We0 AI 即可生成展示站、頁面與 CMS。發佈上線後並幫你獲取客戶和流量。
用戶註冊贈送一次完整項目生成
適合先體驗一次完整生成流程，快速看到專案初稿。
進行容量規劃時，應使用具代表性的文件長度、回應長度與快取重用分布。同時測量延遲分布的中位區間與較慢請求，接著檢查系統在並行負載下是否仍符合應用程式需求。
來源列出了一項暫時優惠，價格為 常規價格的 25%，相當於 75% 折扣。其引用的每百萬 Token 費率如下：
| 服務 | 幣別 | 輸入 | 輸出 | 快取輸入讀取 |
|---|---|---|---|---|
| OpenRouter | 美元 | $0.075 | $0.225 | $0.015 |
| Ling Studio | 人民幣 | ¥0.50 | ¥1.50 | ¥0.10 |
這些是報導中的上市優惠數據，而非永久價格承諾。OpenRouter 的模型頁面及服務的計費資訊應作為採購依據，因為供應商可用性、支援的上下文長度與折扣可能各自變動。
權重已列於 Hugging Face 與 ModelScope。若要實作，應先從目前模型卡的服務指南開始；來源文章本身是一篇發布報導，未提供完整部署流程。
它是 InclusionAI 的語言模型，適用於推理、長上下文處理與工具輔助任務。其官方說明列示約 5,600 億個總參數，以及每個 Token 250 億個活躍參數。
是。官方 Hugging Face 儲存庫提供模型，並列示採用 MIT 授權條款。在調整或重新散布前，請檢查儲存庫目前的檔案與授權內容。
否。活躍運算與儲存的總權重是不同的量。來源所述的最佳化權重占用空間約為 292 GB，尚未包含額外的服務記憶體。
來源針對特定混合精度配置報導了該結果。這並不代表任何四張 Hopper 顯示卡、任何上下文長度或任何並行設定都能運作。
否。它們使用不同的硬體數量與請求分布。在比較結果時，應連同快取命中率、Token 長度與延遲限制一併考量。
不是。來源將該優惠稱為暫時性優惠。在估算成本前，請確認所選供應商的即時價格、快取政策與支援的上下文限制。
Ling-3.1-flash 的開放權重讓本地評估成為可能，而所報導的混合精度配置降低了其儲存與 GPU 需求。其長上下文與結構化工具呼叫能力，與文件密集型助理及企業工作流程具有關聯性。
有用的部署比較應涵蓋完整配置：精度、GPU 記憶體、輸入長度、並行度與快取重用。應將已公布的基準測試視為需要針對自身工作負載重現的測試結果，而不是通用的服務保證。
從一句話開始，幾分鐘內拿到完整網站。
