Microsoft Maia 300 공개: HBM4 288GB, 와트당 성능 2.5배 주장

핵심 요약

Microsoft가 2026년 10월 12일 Azure Maia 프로그램의 3세대 칩 Maia 300을 공개했다. Scott Guthrie가 공식 블로그에서 밝혔다. 이 칩은 학습보다 추론을 우선해 설계됐다. 장문 컨텍스트, 메모리 집약, 디코드 중심 워크로드가 주요 대상이다. Maia 300은 2027년 프로덕션 배포를 시작하고, 같은 해부터 멀티 기가와트 규모로 배포한다. 구체적인 기가와트 수치는 공개되지 않았다. Microsoft는 이 시스템을 자사 제품과 서비스의 주력 추론 시스템으로 키우는 것을 목표로 한다. 이 글의 성능 수치는 모두 Microsoft 자체 발표이며 독립 검증은 없다.

주요 사양

칩 설계

컴퓨트 다이는 TSMC N2P 공정이다. 컴퓨트, 메모리 컨트롤러, I/O를 분리한 멀티 칩렛 구조를 쓴다. HBM4 8스택으로 288GB 용량과 18TB/s 대역폭을 제공한다. TDP는 950W다. 소프트웨어가 관리하는 온다이 SRAM을 두었고, MXFP4와 3비트 미만(sub-3-bit) 저장 포맷을 지원한다. 칩렛 간 메모리 접근은 UMA에서 NUMA 방식으로 바뀌었다.

Maia 200 대비 개선 (Microsoft 주장)

Microsoft는 GPU 기반 선도 시스템보다 메가와트당 토큰을 약 40% 더 처리한다고 주장한다.

랙과 네트워크

랙 하나에 가속기 96개가 들어간다. 트레이 4개에 각 24개씩이다. 랙 전력은 167kW, HBM은 27.6TB, 집계 HBM 대역폭은 1.7PB/s다. 스위치 ASIC 6개와 액체냉각 스위치 트레이 3개, 50V 버스바를 쓴다. 열 부하의 80% 이상을 액체냉각으로 처리한다. 밀도는 Maia 200의 2배다. 네트워크는 이더넷 기반 커스텀 AI 전송 프로토콜, 랙 내 스위치 패브릭, 광 2단계 구성으로 이뤄진다. 최대 128랙 슈퍼팟, 12,288개 가속기까지 확장된다.

대상 워크로드와 현재 상황

Microsoft는 장문 컨텍스트 추론, 저지연 대화, 멀티스텝 에이전트 작업을 꼽았다. 적용 대상은 GitHub 코딩 경험, Foundry 모델 서빙, MAI 모델 추론과 데이터 생성, Dragon Copilot이다.

현재 프로덕션에 있는 것은 Maia 200이다. Microsoft Copilot과 MAI 팀 서비스에서 쓰이며, GitHub Copilot과 Microsoft Foundry로는 2026년 말까지 확대할 예정이다. Maia 200은 OpenAI 모델, MAI 모델, 주요 오픈소스 모델을 실행한다. Microsoft는 Maia 200이 Teams, Copilot, Cowork의 내장 AI 기능에서 GPU 인프라보다 와트당 토큰을 최대 1.7배 처리한다고 밝혔다.

사용성 분석

Maia는 일반 사용자가 직접 고르는 제품이 아니다. Azure 내부 서비스와 Foundry를 통해 간접적으로 접하게 된다. 개발자 입장에서는 모델 서빙 비용과 지연 시간이 어떻게 달라지는지가 관건이다. 그러나 가격과 요금 정책은 공개되지 않았다. 칩 단독 FLOPs 절대값도 없어, 와트당 성능 비교의 기준점을 외부에서 확인하기 어렵다.

시장 맥락과 전망

CNBC는 이번 발표를 Nvidia 의존도를 줄이려는 흐름 속에서 보도했다. 다만 Microsoft가 GPU 사용을 중단한다고 밝힌 것은 아니다. 비교 대상도 GPU 기반 선도 시스템이라고만 표현됐다. 2027년 배포가 실제로 어느 속도로 진행되는지가 다음 확인 지점이다. Microsoft는 다음 달 Ignite(2026-11-17~20)에서 추가 내용을 공유할 예정이다.

결론

Maia 300은 메모리 용량과 대역폭, 랙 밀도에 초점을 맞춘 추론 전용 설계다. 사양은 구체적이지만, 성능 주장은 독립 벤치마크 없이 Microsoft 발표에만 의존한다. 클라우드 인프라 담당자와 AI 서비스 운영자는 Ignite 이후 공개될 가격과 일정을 확인하며 지켜볼 만하다. 평점은 3점이다.