Microsoft hôm thứ Hai đã giới thiệu Azure Maia 300, thế hệ thứ ba của dòng máy gia tốc AI nội bộ của họ và cho biết con chip này sẽ hỗ trợ triển khai nhiều gigawatt trên Azure bắt đầu từ năm 2027 - một bước quan trọng trong nỗ lực của công ty nhằm chạy nhiều khối lượng công việc AI hơn trên silicon của chính họ thay vì trên GPU của Nvidia.

Thông báo này được đưa ra trong một bài đăng trên blog của Scott Guthrie, phó chủ tịch điều hành nhóm Cloud + AI của Microsoft, coi Maia 300 là hệ thống suy luận chính cho các sản phẩm và dịch vụ của chính Microsoft. Nó diễn ra trong bối cảnh một cuộc chạy đua trong ngành rộng lớn hơn để xây dựng chip AI tùy chỉnh, một sự thay đổi mà chúng tôi theo dõi chặt chẽ trong phạm vi đưa tin liên tục của chúng tôi về những phát triển AI mới nhất khi các siêu quy mô hoạt động để giảm chi phí phục vụ AI trên quy mô lớn.

Theo Microsoft, Maia 300 được thiết kế để cung cấp thêm 40% số token trên mỗi megawatt so với các hệ thống dựa trên GPU hàng đầu. Trong cấu hình 96 máy gia tốc đầy đủ, công ty cho biết con chip này cung cấp thông lượng mã thông báo ở quy mô giá lên tới bảy lần so với người tiền nhiệm của nó, Maia 200.

Được xây dựng để suy luận từ đầu

Microsoft mô tả Maia 300 là kiến trúc "suy luận trước tiên" nhằm vào các khối lượng công việc có ngữ cảnh dài, tốn nhiều bộ nhớ và giải mã nặng — các mô hình thống trị các trợ lý trò chuyện, hệ thống lý luận và tác nhân AI nhiều bước hiện đại.

Hệ thống con bộ nhớ của chip sử dụng tám ngăn HBM4 cung cấp băng thông tối đa 18,0 terabyte mỗi giây bên trong đường bao nhiệt 950 watt. SRAM đang hoạt động được coi như một bảng ghi dữ liệu được quản lý bằng phần mềm, Microsoft cho biết điều này giúp giảm bớt áp lực lên HBM và giữ nhiều dữ liệu hơn ở gần các đơn vị tính toán.

Maia 300 cũng chuyển sang thiết kế nhiều chiplet nhằm phân chia các chức năng tính toán, bộ điều khiển bộ nhớ và I/O thành các khuôn riêng biệt, với các chiplet tính toán được chế tạo trên nút quy trình N2P của TSMC. Việc hỗ trợ các định dạng có độ chính xác thấp MXFP4 nâng cao nhằm mục đích thu hẹp cả nhu cầu bộ nhớ điện toán và bộ nhớ đệm KV, cho phép các cửa sổ ngữ cảnh lớn hơn và thông lượng cao hơn trong cùng một mức năng lượng.

Về mặt mạng, Microsoft coi mạng như một phần mở rộng của kiến ​​trúc luồng dữ liệu của chip. Truyền tải AI tùy chỉnh cung cấp khả năng liên lạc mở rộng trên các máy gia tốc và giá đỡ trên cơ sở hạ tầng dựa trên Ethernet, hình thành những gì công ty mô tả là cấu trúc liên kết thống nhất có quy mô từ một giá đỡ duy nhất đến triển khai ở quy mô trung tâm dữ liệu.

Số thang giá

Ở cấp độ giá đỡ, Microsoft cho biết 96 máy gia tốc Maia 300 hoạt động trong phạm vi công suất 167 kilowatt, cung cấp dung lượng HBM 27,6 terabyte và băng thông tổng hợp 1,7 petabyte mỗi giây trên miền mở rộng. Công ty lập luận rằng mật độ này cho phép nó phục vụ nhiều tương tác AI đồng thời hơn và khối lượng công việc lớn hơn từ mỗi giá.

Maia 200 Đã Được Sản Xuất

Maia 300 tiếp nối Maia 200, được Microsoft giới thiệu vào tháng 1 năm 2026 và đã phục vụ khối lượng công việc sản xuất, bao gồm cả Microsoft Copilot. Theo công ty, Maia 200 cũng sẽ củng cố GitHub Copilot và Microsoft Foundry vào cuối năm 2026, đồng thời chạy các mô hình OpenAI, các mô hình MAI của riêng Microsoft và các dòng mô hình nguồn mở hàng đầu.

Microsoft cho biết Maia 200 đang được triển khai trên khắp Hoa Kỳ, Châu Âu và Úc, cung cấp số token trên mỗi watt nhiều hơn tới 1,7 lần cho các tính năng AI tích hợp trong trải nghiệm Teams, Copilot và Microsoft 365 so với cơ sở hạ tầng GPU hàng đầu mà nó đã thay thế. Guthrie viết rằng trải nghiệm vận hành từ Maia 200 đã trực tiếp định hình nên thiết kế Maia 300.

Cùng với nhau, hai thế hệ này nhằm mục đích hỗ trợ một loạt các dịch vụ AI của Microsoft: công việc tác nhân nhiều bước đằng sau các công cụ mã hóa GitHub, mô hình quy mô đám mây phục vụ thông qua Microsoft Foundry, suy luận và tạo dữ liệu cho nhóm mô hình MAI cũng như quy trình làm việc Dragon Copilot nhạy cảm với độ trễ nhằm giảm bớt gánh nặng hành chính cho bác sĩ lâm sàng.

Giảm sự phụ thuộc vào Nvidia

Nội dung chiến lược của thông báo này là nỗ lực của Microsoft nhằm giảm sự phụ thuộc vào Nvidia, công ty có GPU chi phối hoạt động đào tạo và suy luận AI trong toàn ngành. Reuters đưa tin rằng Microsoft có kế hoạch "triển khai quy mô lớn" chip của riêng mình như một cách để hạn chế chi phí, trong khi CNBC coi việc triển khai là một động thái trực tiếp nhằm cắt giảm sự phụ thuộc của công ty vào phần cứng Nvidia - một số thành phần đắt tiền và hạn chế về nguồn cung trong quá trình xây dựng AI.

Quyền định giá của Nvidia đã trở thành một vấn đề nhức nhối trong toàn bộ ngành công nghiệp đám mây và silicon tùy chỉnh là phản ứng tiêu chuẩn. TPU của Google, dòng Trainium và Inferentia của Amazon cũng như chip MTIA của Meta đều theo đuổi cùng một mục tiêu: phần cứng chuyên dụng được điều chỉnh theo khối lượng công việc chính xác của từng công ty. Chương trình Maia của Microsoft, bắt đầu với Maia 100 được công bố vào tháng 11 năm 2023, là mục tiêu tham gia cuộc đua đó.

Đối với Microsoft, vấn đề kinh tế rất đơn giản: mọi mã thông báo được cung cấp bởi chip nội bộ đều là mã thông báo không mang lại lợi nhuận cho Nvidia. Với khối lượng suy luận AI ngày càng tăng trên các dịch vụ Copilot, Microsoft 365, GitHub và Azure AI, ngay cả việc thay thế một phần cũng mang lại khoản tiết kiệm đáng kể ở quy mô siêu lớn.

Điều gì xảy ra tiếp theo

Microsoft cho biết việc triển khai sản xuất Maia 300 sẽ bắt đầu vào năm 2027 và giới thiệu cho độc giả một tài liệu kỹ thuật đã xuất bản để biết chi tiết về kiến trúc. Công ty cũng cho biết họ sẽ chia sẻ nhiều hơn về chiến lược silicon và lộ trình cơ sở hạ tầng rộng hơn của mình tại Microsoft Ignite 2026, nơi họ tổ chức ở San Francisco và trực tuyến.

Liệu Maia 300 có thể làm giảm sự thống trị của Nvidia hay không vẫn còn phải xem xét hay không - kiến ​​trúc mới nhất của Nvidia vẫn dẫn đầu về hiệu năng thô và Microsoft tiếp tục mua phần cứng Nvidia với quy mô khổng lồ. Nhưng quỹ đạo rất rõ ràng: nhà điều hành đám mây lớn nhất thế giới dự định cung cấp một tỷ lệ lớn hơn bao giờ hết số token AI của thế giới trên các con chip do chính họ thiết kế.

---

Đi trước AI

Nhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.

Đọc thêm tin tức về AI →