Microsoft pada hari Senin memperkenalkan Azure Maia 300, generasi ketiga dari keluarga akselerator AI internalnya, dan mengatakan bahwa chip tersebut akan mendukung penerapan multi-gigawatt di Azure mulai tahun 2027 – sebuah langkah besar dalam upaya perusahaan untuk menjalankan lebih banyak beban kerja AI pada silikonnya sendiri daripada pada GPU Nvidia.
Pengumuman tersebut, yang dibuat dalam postingan blog oleh Scott Guthrie, wakil presiden eksekutif grup Cloud + AI Microsoft, memposisikan Maia 300 sebagai sistem inferensi utama untuk produk dan layanan Microsoft sendiri. Hal ini terjadi di tengah perlombaan industri yang lebih luas untuk membuat chip AI khusus, sebuah perubahan yang kami lacak dengan cermat dalam liputan berkelanjutan kami mengenai perkembangan AI terbaru seiring upaya para hyperscaler untuk mengurangi biaya layanan AI dalam skala besar.
Menurut Microsoft, Maia 300 dirancang untuk memberikan token 40% lebih banyak per megawatt dibandingkan dengan sistem berbasis GPU terkemuka. Dalam konfigurasi 96-akselerator penuh, perusahaan mengatakan chip tersebut menyediakan hingga tujuh kali lipat throughput token skala rak dari pendahulunya, Maia 200.
Dibangun untuk Inferensi Dari Awal
Microsoft mendeskripsikan Maia 300 sebagai arsitektur "yang mengutamakan inferensi" yang ditujukan untuk beban kerja konteks panjang, intensif memori, dan berat dekode — pola yang mendominasi asisten obrolan modern, sistem penalaran, dan agen AI multi-langkah.
Subsistem memori chip menggunakan delapan tumpukan HBM4 yang menghasilkan bandwidth puncak 18,0 terabyte per detik di dalam selubung termal 950 watt. SRAM on-die diperlakukan sebagai scratchpad yang dikelola perangkat lunak, yang menurut Microsoft mengurangi tekanan pada HBM dan menjaga lebih banyak data tetap dekat dengan unit komputasi.
Maia 300 juga beralih ke desain multi-chiplet yang membagi fungsi komputasi, pengontrol memori, dan I/O menjadi cetakan terpisah, dengan chiplet komputasi dibuat pada node proses N2P TSMC. Dukungan untuk format presisi rendah MXFP4 yang ditingkatkan dimaksudkan untuk mengurangi kebutuhan memori komputasi dan penyimpanan cache KV, memungkinkan jendela konteks yang lebih besar dan throughput yang lebih tinggi dalam anggaran daya yang sama.
Di sisi jaringan, Microsoft memperlakukan jaringan sebagai perpanjangan arsitektur aliran data chip. Transportasi AI khusus menyediakan komunikasi peningkatan skala di seluruh akselerator dan rak melalui infrastruktur berbasis Ethernet, membentuk apa yang digambarkan oleh perusahaan sebagai topologi terpadu yang menskalakan dari satu rak ke penerapan skala pusat data.
Angka Skala Rak
Pada tingkat rak, Microsoft mengatakan 96 akselerator Maia 300 beroperasi dalam daya 167 kilowatt, menawarkan kapasitas HBM 27,6 terabyte dan bandwidth agregat 1,7 petabyte per detik di seluruh domain peningkatan. Perusahaan berpendapat bahwa kepadatan ini memungkinkannya melayani interaksi AI yang lebih simultan dan beban kerja yang lebih besar dari setiap rak.
Maia 200 Sudah Diproduksi
Maia 300 mengikuti Maia 200, yang diperkenalkan Microsoft pada Januari 2026 dan sudah melayani beban kerja produksi, termasuk Microsoft Copilot. Menurut perusahaan, Maia 200 juga akan mendukung GitHub Copilot dan Microsoft Foundry pada akhir tahun 2026, dan menjalankan model OpenAI, model MAI milik Microsoft, dan rangkaian model sumber terbuka terkemuka.
Microsoft mengatakan Maia 200 diterapkan di Amerika Serikat, Eropa, dan Australia, memberikan token per watt hingga 1,7 kali lebih banyak untuk fitur AI bawaan dalam pengalaman Teams, Copilot, dan Microsoft 365 dibandingkan dengan infrastruktur GPU terkemuka yang digantikannya. Guthrie menulis bahwa pengalaman operasional Maia 200 secara langsung membentuk desain Maia 300.
Bersama-sama, kedua generasi ini dimaksudkan untuk mendukung serangkaian layanan Microsoft AI: pekerjaan agen multi-langkah di belakang alat pengkodean GitHub, model skala cloud yang disajikan melalui Microsoft Foundry, inferensi dan pembuatan data untuk tim model MAI, dan alur kerja Dragon Copilot yang sensitif terhadap latensi yang bertujuan untuk mengurangi beban administratif dokter.
Mengurangi Ketergantungan pada Nvidia
Inti strategis dari pengumuman ini adalah upaya Microsoft untuk mengurangi ketergantungannya pada Nvidia, yang GPU-nya mendominasi pelatihan dan inferensi AI di seluruh industri. Reuters melaporkan bahwa Microsoft merencanakan “penyebaran besar-besaran” chip buatannya sebagai cara untuk mengendalikan biaya, sementara CNBC menggambarkan peluncuran tersebut sebagai langkah langsung untuk mengurangi ketergantungan perusahaan pada perangkat keras Nvidia – yang merupakan salah satu komponen paling mahal dan terbatas pasokannya dalam pembangunan AI.
Kekuatan harga Nvidia telah menjadi isu utama di industri cloud, dan silikon khusus adalah respons standarnya. TPU Google, lini Trainium dan Inferentia Amazon, serta chip MTIA Meta semuanya memiliki tujuan yang sama: perangkat keras khusus yang disesuaikan dengan beban kerja masing-masing perusahaan. Program Maia Microsoft, yang dimulai dengan peluncuran Maia 100 pada November 2023, merupakan salah satu peserta dalam perlombaan tersebut.
Bagi Microsoft, secara ekonomi sangatlah mudah: setiap token yang disajikan oleh chip internal adalah token yang tidak membawa margin Nvidia. Dengan meningkatnya volume inferensi AI di layanan Copilot, Microsoft 365, GitHub, dan Azure AI, bahkan substitusi sebagian berarti penghematan besar dalam skala besar.
Apa yang Terjadi Selanjutnya
Microsoft mengatakan penerapan produksi Maia 300 akan dimulai pada tahun 2027, dan mengarahkan pembaca ke makalah teknis yang diterbitkan untuk detail arsitektur. Perusahaan juga mengatakan akan berbagi lebih banyak tentang strategi silikon dan peta jalan infrastruktur yang lebih luas di Microsoft Ignite 2026, yang diselenggarakan di San Francisco dan secara online.
Apakah Maia 300 dapat mengurangi dominasi Nvidia masih harus dilihat – arsitektur terbaru Nvidia masih unggul dalam kinerja mentah, dan Microsoft terus membeli perangkat keras Nvidia dalam skala besar. Namun arahnya jelas: operator cloud terbesar di dunia ini bermaksud untuk melayani lebih banyak token AI dunia pada chip yang dirancang sendiri.
---
Tetap Terdepan dalam AIDapatkan berita, analisis, dan terobosan AI terkini — semuanya di satu tempat.
Baca berita AI selengkapnya →
