Microsoft introducerade på måndagen Azure Maia 300, den tredje generationen av sin in-house AI-acceleratorfamilj, och sa att chippet kommer att förankra multi-gigawatt-distributioner över Azure från och med 2027 – ett stort steg i företagets ansträngning att köra mer av sina AI-arbetsbelastningar på sitt eget kisel snarare än på Nvidias GPU:er.
Tillkännagivandet, som gjordes i ett blogginlägg av Scott Guthrie, Microsofts vice vd för dess Cloud + AI-grupp, positionerar Maia 300 som det primära slutledningssystemet för Microsofts egna produkter och tjänster. Det landar mitt i ett bredare branschlopp för att bygga anpassade AI-chips, en förändring som vi följer noga i vår pågående bevakning av den senaste AI-utvecklingen när hyperskalare arbetar för att tämja kostnaden för att servera AI i stor skala.
Enligt Microsoft är Maia 300 designad för att leverera 40 % fler tokens per megawatt jämfört med ledande GPU-baserade system. I en full 96-acceleratorkonfiguration, säger företaget att chippet ger upp till sju gånger rack-skala token-genomströmning av sin föregångare, Maia 200.
Byggd för slutledning från grunden
Microsoft beskriver Maia 300 som en "inferens-först"-arkitektur som syftar till långa sammanhang, minnesintensiva och avkodningstunga arbetsbelastningar – mönstren som dominerar moderna chattassistenter, resonemangssystem och flerstegs AI-agenter.
Chipets minnesdelsystem använder åtta stackar av HBM4 som levererar 18,0 terabyte per sekund av toppbandbredd i en 950-watts termisk enveloppe. On-die SRAM behandlas som en mjukvaruhanterad scratchpad, vilket Microsoft säger underlättar trycket på HBM och håller mer data nära beräkningsenheterna.
Maia 300 går också över till en design med flera chipletar som delar upp beräknings-, minneskontroller- och I/O-funktioner i separata dies, med beräkningschiplets tillverkade på TSMC:s N2P-processnod. Stöd för förbättrade MXFP4-lågprecisionsformat är avsett att krympa både datorminnesbehov och KV-cachelagring, vilket möjliggör större sammanhangsfönster och högre genomströmning inom samma energibudget.
På nätverkssidan behandlar Microsoft nätverket som en förlängning av chipets dataflödesarkitektur. En anpassad AI-transport ger uppskalningskommunikation över acceleratorer och rack över Ethernet-baserad infrastruktur, vilket bildar vad företaget beskriver som en enhetlig topologi som skalas från ett enda rack till distributioner i datacenterskala.
Rack-Skala nummer
På racknivå, säger Microsoft att 96 Maia 300-acceleratorer fungerar inom en effektomslutning på 167 kilowatt, och erbjuder 27,6 terabyte HBM-kapacitet och 1,7 petabyte per sekund av sammanlagd bandbredd över uppskalningsdomänen. Företaget hävdar att denna täthet låter den tjäna fler samtidiga AI-interaktioner och större arbetsbelastningar från varje rack.
Maia 200 är redan i produktion
Maia 300 följer Maia 200, som Microsoft introducerade i januari 2026 och som redan betjänar produktionsbelastningar, inklusive Microsoft Copilot. Enligt företaget kommer Maia 200 också att stödja GitHub Copilot och Microsoft Foundry i slutet av 2026, och den kör OpenAI-modeller, Microsofts egna MAI-modeller och ledande modellfamiljer med öppen källkod.
Microsoft säger att Maia 200 distribueras i USA, Europa och Australien och levererar upp till 1,7 gånger fler tokens per watt för inbyggda AI-funktioner i Teams, Copilot och Microsoft 365-upplevelser jämfört med den ledande GPU-infrastrukturen som den ersatte. Guthrie skrev att den operativa erfarenheten från Maia 200 direkt formade Maia 300-designen.
Tillsammans är de två generationerna avsedda att driva en bred uppsättning av Microsoft AI-tjänster: agentarbete i flera steg bakom GitHub-kodningsverktyg, molnskalamodell som betjänas genom Microsoft Foundry, slutlednings- och datagenerering för MAI-modellteamet och latenskänsliga Dragon Copilot-arbetsflöden som syftar till att minska klinikernas administrativa börda.
Minska beroendet av Nvidia
Den strategiska undertexten i tillkännagivandet är Microsofts ansträngning att minska sitt beroende av Nvidia, vars grafikprocessorer dominerar AI-träning och slutsatser i branschen. Reuters rapporterade att Microsoft planerar en "stor utplacering" av sina egna chips som ett sätt att tygla kostnaderna, medan CNBC inramade utbyggnaden som ett direkt drag för att minska företagets beroende av Nvidia-hårdvara - några av de dyraste och utbudsbegränsade komponenterna i AI-utbyggnaden.
Nvidias prissättningskraft har blivit en styrelsefråga i molnbranschen, och anpassat kisel är standardsvaret. Googles TPU:er, Amazons Trainium- och Inferentia-linjer och Metas MTIA-chips strävar alla efter samma mål: specialiserad hårdvara anpassad till varje företags exakta arbetsbelastning. Microsofts Maia-program, som började med Maia 100 som presenterades i november 2023, är dess inträde i det loppet.
För Microsoft är ekonomin okomplicerad: varje token som serveras av ett internt chip är en token som inte bär Nvidias marginal. Med AI-inferensvolymer som växer över Copilot, Microsoft 365, GitHub och Azure AI-tjänster, leder till och med partiell substitution till avsevärda besparingar i hyperskala.
Vad kommer härnäst
Microsoft sa att produktionsinstallationer av Maia 300 kommer att börja 2027, och pekade läsarna på ett publicerat tekniskt dokument för arkitektoniska detaljer. Företaget sa också att det kommer att dela mer om sin kiselstrategi och sin bredare infrastrukturplan på Microsoft Ignite 2026, som det är värd för i San Francisco och online.
Huruvida Maia 300 kan skada Nvidias dominans återstår att se — Nvidias senaste arkitekturer leder fortfarande på rå prestanda, och Microsoft fortsätter att köpa Nvidia-hårdvara i enorm skala. Men banan är tydlig: världens största molnoperatör har för avsikt att servera en allt större andel av världens AI-tokens på chips som den själv designat.
---
Stay ahead of AIFå de senaste AI-nyheterna, analyserna och genombrotten – allt på ett ställe.
Läs mer AI-nyheter →
