For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/zh/articles/azure-maia-300-microsoft-s-2027-multi-gig-1e316d9a.md.
微软正将其自研 AI 基础设施计划推进到规模大得多的部署阶段。
2026 年 10 月 12 日，该公司表示，计划从 2027 年起将 Azure Maia 系列扩展至多吉瓦级部署，并让 Maia 成为微软产品和服务的主要推理系统。
这项公告连接了微软自研 AI 硬件的两代产品。
Maia 200 已投入生产并服务于微软工作负载。下一代系统 Maia 300 计划于 2027 年开始生产部署，专为长上下文推理、对延迟敏感的对话，以及持续执行的多步骤智能体工作负载而设计。
微软的核心观点是，推理效率已无法仅通过考察芯片本身来提升。
该公司正在协同设计以下要素：
并将它们作为一个系统进行设计。
微软计划将这种系统级方法扩展至多吉瓦级规模。
在讨论 Maia 300 之前，微软的公告先介绍了当前一代产品。
Maia 200 已不再只是一个开发平台。
微软表示，它目前正在服务包括 Microsoft Copilot 在内的生产工作负载，同时支持 Microsoft AI 团队开发下一代模型。
该公司称，预计 GitHub Copilot 和 Microsoft Foundry 将在 2026 年底前跟进采用。
在这些工作负载中，Maia 200 可以运行：
这一点很重要，因为微软并未将 Maia 定位为仅服务于某一个专有模型系列的芯片。
该架构旨在支持 Azure 及微软自身服务中的异构模型组合。
微软以极大规模运行 AI 产品。
这使其基础设施团队能够直接了解已部署模型在时间、内存带宽、网络容量和电力方面的消耗情况。
微软表示，其并非先设计一个通用加速器、再决定应用应如何使用它，而是让硬件与软件团队提前数年协同工作。
目标是预判未来的模型需求，并将其转化为如下硬件选择：
这一反馈闭环已经在塑造下一代产品。
微软表示，Maia 200 正在以下地区部署：
针对 Microsoft Teams、Copilot 和 Cowork 等产品中的内置 AI 能力，微软报告称，Maia 200 相较于其所称的领先 GPU 基础设施，可实现最高 1.7 倍的每瓦 token 数。
这是微软自行报告的比较，而不是在标准化第三方系统之间发布的独立基准测试。
其中的表述很重要。
这反映了微软内部的生产实践经验，但不应被解读为 Maia 200 对每一种模型、提示词、批处理大小、延迟目标或 GPU 部署都具有普遍的 1.7 倍优势。
微软表示，Maia 200 的生产经验直接影响了 Maia 300 的设计。
新系统旨在支持更广泛的工作负载，包括：
这些工作负载面临的共同约束是推理。
它们要求模型在处理更长上下文、维护更多状态并执行更多步骤时，依然保持响应速度。
微软将 Maia 300 描述为 Azure Maia 计划的第三代产品。
其设计遵循推理优先原则。
这意味着，微软优化的重点是其预计将在已部署 AI 系统中占主导地位的工作负载，而不仅仅是训练吞吐量。
这些工作负载包括：
目标指标日益不再只是原始 FLOPS。
它还包括数据中心在以下固定约束内能够交付多少有用 token：
微软表示，预计 Maia 300 相较领先的基于 GPU 的系统可实现每兆瓦多 40% 的 token 输出。
这一数字是微软针对系统级部署效率的预期，而不是带有完整跨供应商测试方法的公开独立基准。
在一个完整的 96 加速器机架中，微软还表示，Maia 300 可实现最高 7 倍于 Maia 200 的机架级 token 吞吐量。
这两个数字衡量的是不同维度的比较：
| 说法 | 对比对象 |
|---|---|
| 每兆瓦多 40% 的 token 输出 | Maia 300 与领先的基于 GPU 的系统 |
| 最高 7 倍机架级 token 吞吐量 | 完整 96 加速器 Maia 300 机架与 Maia 200 |
二者不应被视为可以互换。
Maia 300 背后的核心理念之一是，数据移动已经成为主要瓶颈。
现代推理系统会反复移动以下数据：
每次移动都会带来延迟和能耗。
微软的解决方案是进一步演进随 Maia 200 引入的 软件定义本地访问数据流架构，即 SDLA。
软件控制数据的存放位置，以及它在以下资源之间移动的时机：
Maia 300 将这一理念扩展至多芯粒设计。
Maia 300 从更均匀的内存组织方式，转向跨芯粒具备局部性感知的非统一内存架构。
其目的很直接：
让数据更靠近使用它的计算单元
→ 移动更少字节
→ 降低延迟和能耗
→ 提高利用率
该架构让软件对局部性控制承担更直接的责任。
这对于长上下文和解码密集型推理尤其重要，因为模型状态和 KV 缓存的移动可能主导整个工作负载。
内存是 Maia 300 最大的升级之一。
每个加速器使用八组 HBM4 堆栈，提供：
微软表示，这带来了约：
该系统还使用片上 SRAM 作为软件管理的暂存空间。
通过将频繁复用的数据保留在更靠近计算的位置，这能够减轻 HBM 的压力。
对于推理而言，这一点至关重要，因为很多工作负载受限于状态传送至计算引擎的速度，而非这些引擎的峰值算术能力。
Maia 300 不再像 Maia 200 那样采用单一单片式裸片设计。
微软正在将主要功能拆分到不同芯粒上。
该架构包括以下不同功能：
计算芯粒采用 TSMC 的 N2P 制程制造。
这一选择既有经济层面的原因，也有技术层面的原因。
最先进的制程技术可以集中用于每瓦性能收益最大的部分，而其他功能则可以采用针对带宽、连接性或成本优化的设计。
微软的技术架构文章称，相较于 Maia 200，这一变化带来了：
Maia 300 还扩展了对低精度推理的支持。
微软在其技术架构材料中重点提到了增强的 MXFP4 支持和低于 3 位的存储格式。
低精度可减少：
其收益并不只是数字变得更小。
如果模型能够以较低精度维持所需质量，基础设施就能够支持：
微软还表示，向量引擎新增了针对 softmax、低精度数据转换等推理内核的指令级优化。
在大规模场景下，只有当加速器能够高效通信时，它们才有价值。
Maia 300 将其数据流模型延伸至网络本身。
微软在基于以太网的基础设施上使用自定义 AI 传输方案，并采用两层纵向扩展拓扑。
一个 Maia 300 机架包含：
96 个加速器
随后可将多个机架连接为一个超级集群。
微软的技术架构描述了一个最大超级集群，其规模为：
128 个机架
12,288 个 Maia 300 加速器
输入一句想法，We0 AI 即可生成展示站、页面与 CMS。发布上线后并帮你获取客户和流量。
用户注册赠送一次完整项目生成
适合先体验一次完整生成流程，快速看到项目初稿。
在机架内部，直连链路连接成对的加速器，而交换式电气路径连接完整的 96 加速器集群。
微软表示，将机架内的纵向扩展保持为电气连接有助于降低功耗和成本。
第二层网络使用光连接来跨越不同机架。
这使最多 128 个机架能够参与同一个纵向扩展域。
微软明确的目标是，避免针对每一个物理边界暴露不同的通信语义。
同一套通用通信模型覆盖：
这让调度器和软件在部署张量并行、流水线并行和专家并行工作负载时具备更大的灵活性。
Maia 300 的机架是系统设计的重要组成部分。
每个机架包含：
微软的架构对比在其机架图表中将总 HBM 容量四舍五入为 27.7 TB。
这个差异只是 96 × 288 GB 的四舍五入结果。
其加速器密度是 Maia 200 的两倍。
微软将主机计算、内存、存储、冷却和加速器集成到每个托盘中，而不再需要独立的主机托盘。
这释放了机架空间，并使电力和热管理能够作为一个整体系统处理。
一个 167 kW 的 AI 机架带来了显著的热管理挑战。
微软表示，液冷能够从以下组件带走超过 80% 的机架热负荷：
空气冷却仍用于内存、存储和其他支持系统等组件。
如果设施具备相关基础设施，该机架可以直接连接至设施供水系统。
在原本采用风冷的设施中，它也可以使用热交换器单元。
这种灵活性对于扩大部署规模至关重要。
微软无法只在围绕单一精确冷却配置构建的数据中心中扩展 Maia。
下表汇总了微软已发布的 Maia 300 规格及其与 Maia 200 的对比。
| 规格 | Maia 200 | Maia 300 |
|---|---|---|
| 制程 / 封装方式 | 单片式 N3P | 多芯粒，N2P 计算 |
| FP4 峰值 | 10.1 POPS | 13.8 POPS |
| FP8 峰值 | 5.1 POPS | 6.9 POPS |
| SoC TDP | 750 W | 950 W |
| HBM | 6 × HBM3E | 8 × HBM4 |
| 每个加速器的 HBM 容量 | 216 GB | 288 GB |
| 每个加速器的 HBM 带宽 | 7.1 TB/s | 18 TB/s |
| 双向纵向扩展带宽 | 2.8 TB/s | 3.2 TB/s |
| 每机架加速器数量 | 48 | 96 |
| 约计机架 HBM 容量 | 10.4 TB | 27.7 TB |
| 机架功耗 | 64 kW | 167 kW |
| 已公布的最大纵向扩展域 | 约 6K 个加速器 | 约 12K 个加速器 |
这些是微软发布的峰值和系统规格。
它们并非应用级保证。
实际吞吐量取决于模型、精度、批处理大小、延迟目标、并行策略、软件栈和工作负载组合。
最引人注目的数字，是微软计划从 2027 年起将 Azure Maia 推进至多吉瓦级部署。
这是关于基础设施规模的表述。
微软尚未披露与这一表述相关的精确总吉瓦数、逐个部署的时间表，或加速器数量。
它也不应被解读为单个 Maia 300 数据中心必然会消耗多吉瓦电力。
一个吉瓦级计划可以覆盖：
该公司的公告有意聚焦于系统战略，而非逐个设施的建设计划。
AI 基础设施日益受限于在可用电力内能够容纳多少有效计算能力。
如果无法同时提供以下条件，数据中心就无法无限增加加速器：
这就是微软强调每兆瓦 token 数的原因。
该指标将模型服务输出与日益决定数据中心扩张的稀缺资源联系起来。
一枚速度更快、但功耗也按比例更高的芯片，可能无法解决真正的部署问题。
目标是在相同的基础设施边界内生成更多有用的 AI 输出。
微软的公告不止表示 Maia 300 将成为另一个加速器选项。
该公司表示，随着部署规模扩大，Maia 系列将成为其面向微软产品和服务的主要推理系统。
这使 Maia 在微软的整个技术栈中具有战略意义。
该公司提到或引用的工作负载包括：
这并不意味着微软会放弃 GPU 或其他加速器。
微软明确将其更广泛的基础设施描述为异构且模型多样化。
Maia 计划为微软提供了另一种基础设施选择，使其能够围绕自身服务模式进行深度优化。
微软公告的最后一部分将 Maia 纳入该公司所谓的 Frontier Transformation。
其理念是，AI 基础设施不应作为彼此孤立的层进行优化。
微软希望连接：
芯片
→ 系统
→ 数据中心
→ 模型服务
→ 智能体
→ 应用
由于微软运营所有这些层，它能够利用来自应用的生产反馈来影响未来硬件。
反向作用同样存在。
新的硬件能力可以塑造未来模型和智能体以经济方式实现大规模运行的能力。
这正是 Maia 的战略目的。
微软并非试图证明一枚芯片可以取代所有加速器。
它正在构建一个垂直协同设计的推理平台，使其能够与 Azure 中的其他硬件并行共存。
Maia 300 已公布的规格很突出，但关键系统的大部分仍处于生产前阶段。
生产部署将于 2027 年开始。
当该系统进入真实工作负载后，以下问题将非常重要。
微软预计 Maia 300 相较领先的基于 GPU 的系统可实现高出 40% 的每兆瓦 token 数。
真正有价值的问题在于，这一表现如何在不同模型和延迟目标中得到维持。
只有当编译器、内核、可观测性、部署工具和模型支持足够成熟，能够服务生产团队时，自研芯片才能取得成功。
微软希望 Maia 支持 OpenAI、MAI 和开源模型系列。
在异构架构中实现生产级效率将是一项重要考验。
12,288 加速器的纵向扩展域在架构上具有重要意义。
实际利用率、故障恢复、调度和跨机架通信，将决定有多少理论规模能够转化为有效容量。
每瓦性能只是总成本的一部分。
数据中心运营商还关心：
如果这一战略奏效，微软的优势将来自对整个系统的优化，而不是某一个基准数字。
Azure Maia 300 是微软第三代自研 AI 推理系统。它结合了多芯粒加速器、HBM4 内存、软件定义数据流、基于以太网的自定义纵向扩展网络，以及专为云规模 AI 推理设计的 96 加速器机架架构。
微软表示，生产部署将于 2027 年开始。该公司还计划于 2027 年开始将 Maia 系列扩展至多吉瓦级部署。
这意味着微软计划将 Maia 基础设施部署至以多个吉瓦计的聚合功率规模。微软尚未发布确切总量、加速器数量，也没有表示单个数据中心将消耗多个吉瓦，因此不应仅根据标题推断这些细节。
每个 Maia 300 加速器配备八组 HBM4 堆栈，容量为 288 GB，峰值 HBM 带宽为 18 TB/s。一个 96 加速器机架的 HBM 总量约为 27.6–27.7 TB。
微软为满配 96 加速器 Maia 300 机架规定的功耗范围是 167 kW。加速器 SoC 本身的 TDP 为 950 W。
微软预计 Maia 300 相较领先的基于 GPU 的系统可实现高出 40% 的每兆瓦 token 数，但尚未针对该说法发布完整的独立跨供应商基准测试方法。因此，这一结果应被视为微软对系统级性能的预期，而不是普遍适用的基准结论。
微软表示，Maia 将成为其面向微软产品和服务的主要推理系统，但同时也将 Azure 描述为一个开放、异构的平台，提供模型和芯片选择。Maia 是这一更广泛基础设施组合的一部分，并不意味着 Azure 将只使用微软芯片。
微软表示，Maia 200 已在服务 Microsoft Copilot，并支持 MAI 团队的下一代模型开发。预计 GitHub Copilot 和 Microsoft Foundry 将在 2026 年底前跟进采用。
微软正在将 Azure Maia 从一个自研加速器计划转变为一个大规模推理平台。Maia 200 已在运行生产工作负载，而 Maia 300 计划于 2027 年开始部署，其设计围绕长上下文、解码密集型和智能体推理。
最大的变化发生在系统层面：每个加速器配备 288 GB HBM4、18 TB/s 内存带宽、多芯粒 N2P 设计、每个 167 kW 机架配备 96 个加速器、可扩展至 12,288 个加速器的纵向扩展网络，以及可带走超过 80% 机架热量的液冷。
微软的目标是将 Maia 系列扩展至多吉瓦级部署，并让其成为支持自身产品和服务的主要推理系统，同时保持 Azure 的异构性。
Maia 300 的故事，与其说是一枚芯片取代另一枚芯片，不如说是微软围绕 AI 推理的经济性，设计从芯片到数据中心再到智能体的完整路径。
从一句话开始，几分钟内拿到完整网站。
