마이크로소프트는 월요일 사내 AI 가속기 제품군의 3세대인 애저 마이아 300(Azure Maia 300)을 출시했으며, 이 칩이 2027년부터 애저 전반에 걸쳐 수 기가와트 규모의 배포를 가능하게 할 것이라고 밝혔습니다. 이는 엔비디아의 GPU가 아닌 자체 실리콘에서 더 많은 AI 워크로드를 실행하려는 회사의 노력의 중요한 단계입니다.

Microsoft의 Cloud + AI 그룹 수석 부사장인 Scott Guthrie가 블로그 게시물을 통해 발표한 이번 발표에서는 Maia 300이 Microsoft 자체 제품 및 서비스에 대한 기본 추론 시스템으로 자리 잡았습니다. 맞춤형 AI 칩을 구축하기 위한 업계의 광범위한 경쟁이 진행되고 있는 가운데, 하이퍼스케일러가 대규모 AI 서비스 비용을 줄이기 위해 노력함에 따라 최신 AI 개발에 대한 지속적인 보도를 면밀히 추적하고 있습니다.

Microsoft에 따르면 Maia 300은 주요 GPU 기반 시스템에 비해 메가와트당 40% 더 많은 토큰을 제공하도록 설계되었습니다. 전체 96개 가속기 구성에서 이 칩은 이전 제품인 Maia 200에 비해 랙 규모 토큰 처리량의 최대 7배를 제공한다고 회사는 말합니다.

처음부터 추론을 위해 구축됨

Microsoft는 Maia 300을 긴 컨텍스트, 메모리 집약적, 디코딩 집약적인 워크로드(최신 채팅 도우미, 추론 시스템 및 다단계 AI 에이전트를 지배하는 패턴)를 목표로 하는 "추론 우선" 아키텍처라고 설명합니다.

칩의 메모리 하위 시스템은 950와트 열 엔벨로프 내에서 초당 18.0테라바이트의 피크 대역폭을 제공하는 8개의 HBM4 스택을 사용합니다. On-die SRAM은 소프트웨어로 관리되는 스크래치 패드로 취급되며, Microsoft는 이를 통해 HBM에 대한 압박을 완화하고 더 많은 데이터를 컴퓨팅 장치에 가깝게 유지한다고 말합니다.

Maia 300은 또한 TSMC의 N2P 프로세스 노드에서 제작된 컴퓨팅 칩렛을 사용하여 컴퓨팅, 메모리 컨트롤러 및 I/O 기능을 별도의 다이로 분할하는 다중 칩렛 설계로 전환합니다. 향상된 MXFP4 저정밀 형식에 대한 지원은 컴퓨팅 메모리 요구 사항과 KV 캐시 스토리지를 모두 줄여 동일한 전력 예산 내에서 더 큰 컨텍스트 창과 더 높은 처리량을 허용하도록 고안되었습니다.

네트워킹 측면에서 Microsoft는 네트워크를 칩 데이터 흐름 아키텍처의 확장으로 간주합니다. 맞춤형 AI 전송은 이더넷 기반 인프라를 통해 가속기와 랙 전반에 걸쳐 확장 통신을 제공하여 단일 랙에서 데이터 센터 규모 배포까지 확장되는 통합 토폴로지를 형성합니다.

랙 규모 수치

랙 수준에서 Microsoft는 96개의 Maia 300 가속기가 167kW 전력 엔벨로프 내에서 작동하여 확장 도메인 전반에 걸쳐 27.6테라바이트의 HBM 용량과 초당 1.7페타바이트의 총 대역폭을 제공한다고 밝혔습니다. 회사는 이러한 밀도를 통해 각 랙에서 더 많은 동시 AI 상호 작용과 더 큰 워크로드를 처리할 수 있다고 주장합니다.

Maia 200은 이미 생산 중입니다.

Maia 300은 Microsoft가 2026년 1월에 출시했으며 이미 Microsoft Copilot을 포함한 프로덕션 워크로드를 제공하는 Maia 200의 후속입니다. 회사에 따르면 Maia 200은 2026년 말까지 GitHub Copilot과 Microsoft Foundry를 지원할 예정이며 OpenAI 모델, Microsoft 자체 MAI 모델 및 주요 오픈 소스 모델 제품군을 실행합니다.

Microsoft는 Maia 200이 미국, 유럽 및 호주 전역에 배포되어 Teams, Copilot 및 Microsoft 365 환경에 내장된 AI 기능에 대해 대체된 주요 GPU 인프라에 비해 와트당 최대 1.7배 더 많은 토큰을 제공한다고 밝혔습니다. Guthrie는 Maia 200의 운영 경험이 Maia 300 디자인을 직접적으로 형성했다고 썼습니다.

두 세대는 함께 GitHub 코딩 도구 뒤의 다단계 에이전트 작업, Microsoft Foundry를 통한 클라우드 규모 모델 서비스, MAI 모델 팀을 위한 추론 및 데이터 생성, 임상의의 관리 부담을 줄이는 것을 목표로 하는 대기 시간에 민감한 Dragon Copilot 워크플로 등 다양한 Microsoft AI 서비스를 지원하도록 고안되었습니다.

Nvidia에 대한 의존도 줄이기

이번 발표의 전략적 의미는 GPU가 업계 전반에서 AI 훈련과 추론을 지배하는 Nvidia에 대한 의존도를 줄이려는 Microsoft의 노력입니다. 로이터 통신은 마이크로소프트가 비용을 억제하기 위한 방법으로 자체 칩의 "대규모 배포"를 계획하고 있다고 보도했으며, CNBC는 AI 구축에서 가장 비싸고 공급이 제한된 구성 요소 중 하나인 엔비디아 하드웨어에 대한 회사의 의존도를 줄이기 위한 직접적인 조치로 출시를 구성했습니다.

Nvidia의 가격 결정력은 클라우드 업계 전반에 걸쳐 이사회의 문제가 되었으며 맞춤형 실리콘이 표준 대응입니다. Google의 TPU, Amazon의 Trainium 및 Inferentia 제품군, Meta의 MTIA 칩은 모두 동일한 목표, 즉 각 회사의 정확한 작업 부하에 맞게 조정된 특수 하드웨어를 추구합니다. 2023년 11월 공개된 마이아 100(Maia 100)으로 시작된 마이크로소프트의 마이아(Maia) 프로그램이 그 경주에 참가한 것이다.

Microsoft의 경우 경제성은 간단합니다. 사내 칩에서 제공되는 모든 토큰은 Nvidia의 마진을 수반하지 않는 토큰입니다. Copilot, Microsoft 365, GitHub 및 Azure AI 서비스 전반에서 AI 추론량이 증가함에 따라 부분 대체라도 하이퍼스케일에서는 상당한 비용 절감으로 이어집니다.

다음에 나올 내용

마이크로소프트는 Maia 300의 생산 배치가 2027년에 시작될 것이라고 밝혔으며 독자들에게 아키텍처 세부 사항에 대해 공개된 기술 문서를 참조하라고 지시했습니다. 또한 회사는 샌프란시스코와 온라인에서 개최되는 Microsoft Ignite 2026에서 실리콘 전략과 광범위한 인프라 로드맵에 대해 더 많이 공유할 것이라고 밝혔습니다.

Maia 300이 Nvidia의 지배력을 무너뜨릴 수 있는지 여부는 아직 알 수 없습니다. Nvidia의 최신 아키텍처는 여전히 원시 성능을 주도하고 있으며 Microsoft는 계속해서 엄청난 규모로 Nvidia 하드웨어를 구매하고 있습니다. 그러나 궤도는 분명합니다. 세계 최대의 클라우드 운영자는 자체 설계한 칩에서 전 세계 AI 토큰의 더 많은 부분을 제공할 계획입니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →