For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the public content index is available at https://we0.ai/llms.txt, and the English article bundle is available at https://we0.ai/llms-full.txt.
For AI agents: the complete content index is available at https://we0.ai/llms.txt, the full English article bundle is available at https://we0.ai/llms-full.txt, and this page is available as Markdown at https://we0.ai/ko/articles/azure-maia-300-microsoft-s-2027-multi-gig-1e316d9a.md.
Microsoft는 자체 AI 인프라 프로그램을 훨씬 더 큰 배포 단계로 전환하고 있습니다.
Microsoft는 자체 AI 인프라 프로그램을 훨씬 더 큰 배포 단계로 전환하고 있습니다.
2026년 10월 12일, Microsoft는 Azure Maia 제품군을 2027년부터 멀티기가와트 규모로 배포할 계획이며, Maia가 Microsoft 제품 및 서비스의 주력 추론 시스템이 될 것이라고 밝혔습니다.
이 발표는 Microsoft가 설계한 두 세대의 AI 하드웨어를 연결합니다.
Maia 200은 이미 양산되어 Microsoft 워크로드를 처리하고 있습니다. 차세대 시스템인 Maia 300은 2027년에 프로덕션 배포를 시작할 예정이며, 긴 컨텍스트 추론, 지연 시간에 민감한 대화, 지속적인 다단계 에이전트 워크로드를 위해 특별히 설계되었습니다.
Microsoft의 핵심 주장은 추론 효율성을 더 이상 칩만으로 개선할 수 없다는 것입니다.
Microsoft는 다음 요소를 하나의 시스템으로 공동 설계하고 있습니다.
Microsoft는 이러한 시스템 수준 접근 방식을 멀티기가와트 범위로 확장하려 합니다.
Maia 300을 논의하기 전에, Microsoft의 발표는 현 세대부터 시작합니다.
Maia 200은 더 이상 개발 플랫폼에만 머물지 않습니다.
Microsoft는 이 시스템이 현재 Microsoft Copilot을 포함한 프로덕션 워크로드를 처리하고 있으며, 동시에 Microsoft AI 팀의 차세대 모델 개발도 지원하고 있다고 밝혔습니다.
Microsoft는 GitHub Copilot과 Microsoft Foundry도 2026년 말까지 뒤따를 것으로 예상합니다.
이러한 워크로드 전반에서 Maia 200은 다음을 실행할 수 있습니다.
이는 Microsoft가 Maia를 하나의 독점 모델 제품군만을 위한 실리콘으로 제시하지 않는다는 점에서 중요합니다.
이 아키텍처는 Azure와 Microsoft 자체 서비스 안에서 이기종 모델 포트폴리오를 지원하도록 설계되었습니다.
Microsoft는 막대한 규모의 AI 제품을 운영합니다.
이로 인해 Microsoft의 인프라 팀은 배포된 모델이 시간, 메모리 대역폭, 네트워크 용량, 전력을 어디에서 사용하는지 직접 파악할 수 있습니다.
Microsoft는 범용 가속기를 먼저 설계하고 나중에 애플리케이션 사용 방식을 정하는 대신, 하드웨어와 소프트웨어 그룹이 수년 전부터 함께 작업한다고 설명합니다.
목표는 미래 모델의 요구 사항을 예측하고 이를 다음과 같은 하드웨어 선택으로 전환하는 것입니다.
이 피드백 루프는 이미 다음 세대 설계에 영향을 주고 있습니다.
Microsoft는 Maia 200이 다음 지역에 배포되고 있다고 밝혔습니다.
Microsoft Teams, Copilot, Cowork를 포함한 제품의 내장 AI 기능에서 Microsoft는 Maia 200이 자사가 선도적 GPU 인프라라고 설명하는 시스템보다 와트당 최대 1.7배 더 많은 토큰을 제공할 수 있다고 보고합니다.
이는 표준화된 타사 시스템 전반에서 독립적으로 공개된 벤치마크가 아니라 Microsoft가 보고한 비교입니다.
표현 방식은 중요합니다.
이는 Microsoft의 내부 프로덕션 경험에 대한 근거이지만, 모든 모델, 프롬프트, 배치 크기, 지연 시간 목표 또는 GPU 배포에 대해 보편적인 1.7배 우위를 의미하는 것으로 해석해서는 안 됩니다.
Microsoft는 Maia 200의 프로덕션 경험이 Maia 300 설계에 직접 반영되었다고 말합니다.
새 시스템은 다음을 포함하여 더 넓은 범위의 워크로드를 지원하도록 의도되었습니다.
이 워크로드 전반의 공통 제약 조건은 추론입니다.
이들은 더 긴 컨텍스트를 처리하고, 더 많은 상태를 유지하며, 더 많은 단계를 실행하는 동시에 모델의 응답성을 유지해야 합니다.
Microsoft는 Maia 300을 Azure Maia 프로그램의 3세대로 설명합니다.
설계는 추론 우선입니다.
이는 Microsoft가 훈련 처리량만이 아니라 실제 배포 AI 시스템을 지배할 것으로 예상하는 워크로드를 중심으로 최적화하고 있음을 의미합니다.
이러한 워크로드에는 다음이 포함됩니다.
목표 지표는 점점 단순한 원시 FLOPS만이 아닙니다.
데이터센터가 다음의 고정된 제약 조건 안에서 얼마나 많은 유용한 토큰을 제공할 수 있는지가 중요합니다.
Microsoft는 Maia 300이 선도적 GPU 기반 시스템보다 메가와트당 토큰을 40% 더 많이 제공할 것으로 예상한다고 밝혔습니다.
이 수치는 완전한 교차 공급업체 테스트 방법론을 갖춘 공개 독립 벤치마크가 아니라 시스템 수준 배포 효율성에 대한 Microsoft의 예상치입니다.
Microsoft는 완전한 96개 가속기 랙에서 Maia 300이 Maia 200 대비 최대 7배의 랙 규모 토큰 처리량을 제공할 수 있다고도 말합니다.
이 두 수치는 서로 다른 비교를 측정합니다.
| 주장 | 비교 |
|---|---|
| 메가와트당 토큰 40% 증가 | Maia 300 대 선도적 GPU 기반 시스템 |
| 랙 규모 토큰 처리량 최대 7배 | 전체 96개 가속기 Maia 300 랙 대 Maia 200 |
두 수치를 서로 대체 가능한 것으로 취급해서는 안 됩니다.
Maia 300의 핵심 아이디어 중 하나는 데이터 이동이 주요 병목이 되었다는 점입니다.
현대의 추론 시스템은 다음을 반복적으로 이동시킵니다.
각 이동은 지연 시간과 에너지를 소모합니다.
Microsoft의 해답은 Maia 200과 함께 도입된 소프트웨어 정의 로컬 액세스 데이터플로 아키텍처(Software Defined Locally Accessed Dataflow Architecture), 즉 SDLA의 발전형입니다.
소프트웨어는 다음 요소 전반에서 데이터가 어디에 배치되고 언제 이동할지를 제어합니다.
Maia 300은 이 개념을 멀티칩렛 설계 전반으로 확장합니다.
Maia 300은 더 균일한 메모리 구성에서 벗어나 칩렛 전반의 지역성을 인식하는 비균일 메모리 아키텍처로 전환합니다.
목적은 간단합니다.
데이터를 사용하는 연산 장치 가까이에 데이터를 유지
→ 이동하는 바이트 수 감소
→ 지연 시간과 에너지 감소
→ 활용도 향상
이 아키텍처는 소프트웨어에 지역성 제어에 대한 더 직접적인 책임을 부여합니다.
이는 모델 상태와 KV 캐시 이동이 워크로드를 지배할 수 있는 긴 컨텍스트 및 디코드 비중이 높은 추론에서 특히 중요합니다.
메모리는 Maia 300의 가장 큰 업그레이드 중 하나입니다.
각 가속기는 HBM4 스택 8개를 사용하며 다음을 제공합니다.
Microsoft는 이를 통해 대략 다음을 제공한다고 말합니다.
이 시스템은 또한 다이 내 SRAM을 소프트웨어 관리형 스크래치패드로 사용합니다.
이는 자주 재사용되는 데이터를 연산 장치 가까이에 유지해 HBM 부담을 줄일 수 있습니다.
추론에서 이는 많은 워크로드가 연산 엔진의 피크 산술 성능보다 상태를 연산 엔진에 얼마나 빠르게 전달할 수 있는지에 의해 제한되기 때문에 중요합니다.
Maia 300은 Maia 200과 같은 의미의 단일 모놀리식 다이가 아닙니다.
Microsoft는 주요 기능을 칩렛으로 분리하고 있습니다.
이 아키텍처는 다음을 위한 별도의 기능을 포함합니다.
연산 칩렛은 TSMC의 N2P 공정으로 제작됩니다.
그 이유는 기술적 측면뿐 아니라 경제적 측면에도 있습니다.
가장 첨단의 공정 기술은 와트당 성능 이점이 가장 큰 영역에 집중할 수 있고, 다른 기능은 대역폭, 연결성 또는 비용에 최적화된 설계를 사용할 수 있습니다.
Microsoft의 기술 아키텍처 게시물에 따르면, 이 변화는 Maia 200 대비 다음에 기여합니다.
Maia 300은 저정밀도 추론 지원도 확대합니다.
Microsoft는 기술 아키텍처 자료에서 향상된 MXFP4 지원과 3비트 미만 스토리지 형식을 강조합니다.
낮은 정밀도는 다음을 줄일 수 있습니다.
이점은 단순히 수치가 더 작아지는 것에 그치지 않습니다.
모델이 낮은 정밀도에서도 요구되는 품질을 유지할 수 있다면, 인프라는 다음을 지원할 수 있습니다.
Microsoft는 벡터 엔진이 소프트맥스 및 저정밀도 데이터 변환과 같은 추론 커널을 위한 명령어 수준 최적화도 추가한다고 밝혔습니다.
대규모 환경에서 가속기는 효율적으로 통신할 수 있을 때만 유용합니다.
Maia 300은 데이터플로 모델을 네트워크 자체로 확장합니다.
Microsoft는 이더넷 기반 인프라 위의 맞춤형 AI 전송 방식과 2계층 스케일업 토폴로지를 사용합니다.
Maia 300 랙 하나에는 다음이 포함됩니다.
가속기 96개
이후 여러 랙을 연결해 슈퍼팟을 구성할 수 있습니다.
Microsoft의 기술 아키텍처는 최대 슈퍼팟을 다음과 같이 설명합니다.
랙 128개
Maia 300 가속기 12,288개
랙 내부에서는 직접 링크가 가속기 쌍을 연결하고, 스위치 기반 전기 경로가 전체 96개 가속기 팟을 연결합니다.
아이디어를 한 문장으로 입력하면 We0 AI가 쇼케이스 사이트, 페이지, CMS를 생성하고 출시 후 고객과 트래픽 확보를 돕습니다.
무료 등록을 위한 하나의 완전한 프로젝트 생성
하나의 완전한 생성 흐름을 시도하고 첫 번째 프로젝트 초안을 빠르게 보는 데 가장 적합합니다.
Microsoft는 랙 내부 스케일업을 전기 방식으로 유지하면 전력과 비용을 줄이는 데 도움이 된다고 말합니다.
두 번째 네트워크 계층은 랙을 연결하기 위해 광 연결을 사용합니다.
이를 통해 최대 128개 랙이 동일한 스케일업 도메인에 참여할 수 있습니다.
Microsoft가 밝힌 목표는 각 물리적 경계마다 별도의 통신 의미 체계를 노출하지 않는 것입니다.
동일한 일반 통신 모델이 다음 전반에 걸쳐 적용됩니다.
이는 스케줄러와 소프트웨어가 텐서 병렬, 파이프라인 병렬, 전문가 병렬 워크로드를 배치하는 방식에 더 큰 유연성을 제공합니다.
Maia 300의 랙은 시스템 설계의 핵심 부분입니다.
각 랙에는 다음이 포함됩니다.
Microsoft의 아키텍처 비교 자료는 랙 차트에서 총 HBM 용량을 27.7 TB로 반올림합니다.
이 차이는 단순히 96 × 288 GB 계산값의 반올림 차이입니다.
가속기 밀도는 Maia 200의 두 배입니다.
Microsoft는 별도 호스트 트레이를 요구하는 대신, 호스트 연산, 메모리, 스토리지, 냉각, 가속기를 각 트레이에 통합합니다.
이 방식은 랙 공간을 확보하고 전력 및 열 관리를 하나의 시스템으로 처리할 수 있게 합니다.
167 kW AI 랙은 상당한 열 관리 과제를 만듭니다.
Microsoft는 액체 냉각이 다음과 같은 구성 요소에서 발생하는 랙 열부하의 80% 이상을 제거한다고 밝혔습니다.
메모리, 스토리지 및 기타 보조 시스템을 포함한 구성 요소에는 공기 냉각이 계속 사용됩니다.
이 랙은 이러한 인프라가 있는 시설에서는 시설 용수에 직접 연결할 수 있습니다.
그 밖에 공랭식으로 운영되는 시설에서는 열교환기 유닛을 사용할 수도 있습니다.
이러한 유연성은 배포 규모에 중요합니다.
Microsoft는 하나의 정확한 냉각 구성만을 중심으로 구축된 데이터센터에서만 Maia를 확장할 수는 없습니다.
다음 표는 Microsoft가 공개한 Maia 300 사양과 Maia 200과의 비교를 통합한 것입니다.
| 사양 | Maia 200 | Maia 300 |
|---|---|---|
| 공정 / 패키지 접근 방식 | 모놀리식 N3P | 멀티칩렛, N2P 연산 |
| FP4 피크 | 10.1 POPS | 13.8 POPS |
| FP8 피크 | 5.1 POPS | 6.9 POPS |
| SoC TDP | 750 W | 950 W |
| HBM | 6 × HBM3E | 8 × HBM4 |
| 가속기당 HBM 용량 | 216 GB | 288 GB |
| 가속기당 HBM 대역폭 | 7.1 TB/s | 18 TB/s |
| 양방향 스케일업 대역폭 | 2.8 TB/s | 3.2 TB/s |
| 랙당 가속기 수 | 48 | 96 |
| 대략적인 랙 HBM 용량 | 10.4 TB | 27.7 TB |
| 랙 전력 | 64 kW | 167 kW |
| 공개된 최대 스케일업 도메인 | 약 6K 가속기 | 약 12K 가속기 |
이는 Microsoft가 공개한 피크 및 시스템 사양입니다.
이는 애플리케이션 수준의 보장이 아닙니다.
실제 처리량은 모델, 정밀도, 배치 크기, 지연 시간 목표, 병렬화 전략, 소프트웨어 스택, 워크로드 구성에 따라 달라집니다.
핵심 수치는 Azure Maia를 2027년부터 멀티기가와트 규모로 배포하겠다는 Microsoft의 계획입니다.
이는 인프라 규모에 대한 설명입니다.
Microsoft는 이 발표와 관련된 정확한 총 기가와트 수치, 배포별 일정, 가속기 수를 공개하지 않았습니다.
또한 이를 하나의 Maia 300 데이터센터가 반드시 수 기가와트를 소비한다는 의미로 해석해서는 안 됩니다.
기가와트 규모의 프로그램은 다음에 걸쳐 운영될 수 있습니다.
Microsoft의 발표는 의도적으로 시설별 구축 계획보다 시스템 전략에 초점을 맞춥니다.
AI 인프라는 가용 전력 안에 얼마나 많은 유용한 연산을 담을 수 있는지에 따라 점점 더 제한받고 있습니다.
데이터센터는 다음도 함께 제공할 수 없다면 가속기를 무한정 추가할 수 없습니다.
이것이 Microsoft가 메가와트당 토큰을 강조하는 이유입니다.
이 지표는 모델 서빙 출력과 데이터센터 확장을 점점 더 결정하는 희소 자원을 연결합니다.
더 빠르지만 비례적으로 더 많은 전력을 소비하는 칩은 실제 배포 문제를 해결하지 못할 수 있습니다.
목표는 동일한 인프라 한도 안에서 더 많은 유용한 AI 출력을 생성하는 것입니다.
Microsoft의 발표는 Maia 300이 또 하나의 가속기 옵션이 될 것이라는 수준을 넘어섭니다.
Microsoft는 배포 규모가 확대됨에 따라 Maia 제품군이 Microsoft 제품 및 서비스의 주력 추론 시스템이 될 것이라고 밝혔습니다.
이로 인해 Maia는 Microsoft의 전체 스택에서 전략적으로 중요해집니다.
Microsoft는 다음을 포함한 워크로드를 언급하거나 참조합니다.
이는 Microsoft가 GPU나 다른 가속기를 포기한다는 의미는 아닙니다.
Microsoft는 더 광범위한 인프라를 이기종이며 모델 다양성을 갖춘 환경으로 명시적으로 설명합니다.
Maia 프로그램은 Microsoft가 자체 서비스 패턴에 맞춰 긴밀히 최적화할 수 있는 또 하나의 인프라 옵션을 제공합니다.
Microsoft 발표의 마지막 부분은 Maia를 회사가 **프런티어 트랜스포메이션(Frontier Transformation)**이라고 부르는 개념 안에 배치합니다.
핵심은 AI 인프라가 고립된 계층으로 최적화되어서는 안 된다는 것입니다.
Microsoft는 다음을 연결하려 합니다.
실리콘
→ 시스템
→ 데이터센터
→ 모델 서빙
→ 에이전트
→ 애플리케이션
Microsoft는 이 모든 계층을 운영하기 때문에, 애플리케이션의 프로덕션 피드백을 활용해 미래 하드웨어에 영향을 줄 수 있습니다.
그 반대도 마찬가지입니다.
새로운 하드웨어 기능은 미래 모델과 에이전트가 대규모로 경제적으로 수행할 수 있는 작업의 범위를 바꿀 수 있습니다.
이것이 Maia의 전략적 목적입니다.
Microsoft는 하나의 칩이 모든 가속기를 대체할 것임을 증명하려는 것이 아닙니다.
Azure 내에서 다른 하드웨어와 나란히 위치할 수 있는, 수직적으로 공동 설계된 추론 플랫폼을 구축하고 있습니다.
Maia 300의 공개 사양은 상당하지만, 핵심 시스템의 대부분은 아직 사전 프로덕션 단계입니다.
프로덕션 배포는 2027년에 시작됩니다.
시스템이 실제 워크로드에 도달하면 몇 가지 질문이 중요해질 것입니다.
Microsoft는 선도적 GPU 기반 시스템보다 메가와트당 토큰을 40% 더 많이 제공할 것으로 예상합니다.
핵심 질문은 이것이 서로 다른 모델과 지연 시간 목표 전반에서 어떻게 유지되는가입니다.
맞춤형 실리콘은 컴파일러, 커널, 관측성, 배포 도구, 모델 지원이 프로덕션 팀에 충분히 성숙했을 때에만 성공합니다.
Microsoft는 Maia가 OpenAI, MAI, 오픈소스 모델 제품군을 지원하기를 원합니다.
이기종 아키텍처 전반의 프로덕션 효율성은 중요한 시험대가 될 것입니다.
12,288개 가속기 규모의 스케일업 도메인은 아키텍처 측면에서 중요합니다.
실제 활용률, 장애 복구, 스케줄링, 랙 간 통신은 이론적 규모 중 어느 정도가 유용한 용량으로 전환되는지를 결정할 것입니다.
와트당 성능은 총비용의 한 부분일 뿐입니다.
데이터센터 운영자는 다음 요소도 중요하게 봅니다.
이 전략이 성공한다면 Microsoft의 강점은 하나의 벤치마크 수치가 아니라 전체 시스템을 최적화하는 데서 나올 것입니다.
Azure Maia 300은 Microsoft의 3세대 맞춤형 AI 추론 시스템입니다. 클라우드 규모 AI 추론을 위해 설계된 멀티칩렛 가속기, HBM4 메모리, 소프트웨어 정의 데이터플로, 맞춤형 이더넷 기반 스케일업 네트워킹, 96개 가속기 랙 아키텍처를 결합합니다.
Microsoft는 프로덕션 배포가 2027년에 시작될 것이라고 밝혔습니다. 또한 2027년부터 Maia 제품군을 멀티기가와트 규모 배포로 확장할 계획입니다.
이는 Microsoft가 여러 기가와트 단위로 측정되는 총 전력 규모의 Maia 인프라를 계획하고 있음을 뜻합니다. Microsoft는 정확한 총량, 가속기 수, 또는 단일 데이터센터가 수 기가와트를 소비한다는 내용을 공개하지 않았으므로, 이러한 세부 사항을 헤드라인만으로 추론해서는 안 됩니다.
각 Maia 300 가속기에는 288 GB 용량과 18 TB/s의 피크 HBM 대역폭을 제공하는 HBM4 스택 8개가 탑재됩니다. 96개 가속기 랙은 총합 약 27.6~27.7 TB의 HBM을 포함합니다.
Microsoft는 가속기 96개가 완전히 구성된 Maia 300 랙의 전력 한도를 167 kW로 명시합니다. 가속기 SoC 자체의 TDP는 950 W입니다.
Microsoft는 Maia 300이 선도적 GPU 기반 시스템보다 메가와트당 토큰을 40% 더 많이 제공할 것으로 예상하지만, 이 주장에 대한 완전한 독립 교차 공급업체 벤치마크 방법론은 공개하지 않았습니다. 따라서 이 결과는 보편적인 벤치마크 결론이 아니라 Microsoft의 시스템 수준 성능 예상치로 취급해야 합니다.
Microsoft는 Maia가 Microsoft 제품 및 서비스의 주력 추론 시스템이 될 것이라고 말하지만, 동시에 Azure를 모델 및 실리콘 선택권을 제공하는 개방형 이기종 플랫폼으로 설명합니다. Maia는 Azure가 Microsoft 실리콘만 사용한다는 증거가 아니라 더 광범위한 인프라 구성의 일부입니다.
Microsoft는 Maia 200이 이미 Microsoft Copilot을 제공하고 있으며, MAI 팀의 차세대 모델 개발을 지원하고 있다고 밝혔습니다. GitHub Copilot과 Microsoft Foundry는 2026년 말까지 뒤따를 것으로 예상됩니다.
Microsoft는 Azure Maia를 맞춤형 가속기 프로그램에서 대규모 추론 플랫폼으로 전환하고 있습니다. Maia 200은 이미 프로덕션 워크로드를 실행하고 있으며, Maia 300은 2027년에 배포를 시작할 예정입니다. Maia 300은 긴 컨텍스트, 디코드 비중이 높은 에이전트형 추론을 중심으로 설계되었습니다.
가장 큰 변화는 시스템 수준에 있습니다. 가속기당 288 GB HBM4, 18 TB/s 메모리 대역폭, 멀티칩렛 N2P 설계, 167 kW 랙당 가속기 96개, 12,288개 가속기에 이르는 스케일업 패브릭, 랙 열의 80% 이상을 제거하는 액체 냉각이 포함됩니다.
Microsoft의 목표는 Maia 제품군을 멀티기가와트 배포로 확장하고, Azure의 이기종 구조를 유지하면서 자체 제품 및 서비스의 주력 추론 시스템으로 만드는 것입니다.
Maia 300의 핵심은 한 칩이 다른 칩을 대체한다는 이야기가 아니라, Microsoft가 AI 추론 경제성을 중심으로 실리콘에서 데이터센터, 에이전트에 이르는 전체 경로를 설계하고 있다는 점입니다.
한 문장에서 시작해 몇 분 안에 완전한 웹사이트를 받아보세요.
