Meta đã vén bức màn về MTIA 400, máy gia tốc tùy chỉnh đầu tiên của nó nhằm mục đích đào tạo các mô hình ngôn ngữ lớn - với một bước ngoặt bất thường. Con chip này, được trình bày chi tiết trong tuần này tại hội nghị bán dẫn Hot Chips hàng năm, cũng sẽ đảm nhiệm khối lượng công việc đề xuất học sâu phục vụ cho các quảng cáo tài trợ cho toàn bộ tham vọng AI của Meta.
The Register, cơ quan đầu tiên đưa tin đầy đủ về các tiết lộ kỹ thuật, đã gọi thiết kế này là một "tính cách khác biệt": một bên là con chip đào tạo biên giới, một bên là công cụ phân phát quảng cáo. Đó là dấu hiệu rõ ràng nhất cho thấy Meta có ý định vận hành tương lai AI của mình trên chính silicon của mình. Để biết thêm về sự phát triển AI mới nhất đang định hình ngành công nghiệp chip, hãy theo dõi AI Buzz Wire.
Tại sao đào tạo AI và phân phát quảng cáo trên cùng một con chip?
Hầu hết các công ty xây dựng bộ tăng tốc AI tùy chỉnh đều bắt đầu bằng suy luận. Các cụm nhỏ hơn, chip đơn giản hơn và công việc được hiểu rõ. Meta đang đi ngược lại xu hướng đó bằng cách nhắm mục tiêu đào tạo LLM trước tiên — khối lượng công việc đòi hỏi nhiều tính toán nhất trong ngành, thường yêu cầu hàng chục hoặc hàng trăm nghìn máy gia tốc.
Sự thỏa hiệp là khối lượng công việc thứ hai. Suy luận DLRM — mô hình đề xuất học sâu quyết định quảng cáo và bài đăng nào người dùng nhìn thấy — chủ yếu phụ thuộc vào bộ nhớ thay vì giới hạn tính toán, nghĩa là phần lớn hỏa lực đào tạo của chip không hoạt động trong quá trình phân phát quảng cáo. Nhưng với việc Meta đang đốt hàng chục tỷ đô la vào lĩnh vực điện toán, việc có một con chip kéo hai nhiệm vụ là một biện pháp phòng ngừa thực tế, đặc biệt là khi một trong hai trường hợp sử dụng trực tiếp tạo ra doanh thu.
Bên trong MTIA 400: Chiplets 3nm và Broadcom IP
Theo bài trình bày Hot Chips của Meta, được phân tích bởi The Register và ServeTheHome:
- Kiến trúc nhiều khuôn: Hai khuôn điện toán, hai khuôn I/O và một khuôn SoC xử lý khả năng kết nối máy chủ và điều phối khối lượng công việc
- Nút quy trình: Các chiplet điện toán được xây dựng trên công nghệ xử lý 3nm, có lẽ là của TSMC
- Tính toán: Lưới 6x8 gồm các phần tử xử lý trên mỗi chiplet, cung cấp tổng cộng 12 petaFLOPS tính toán MXFP4 ở tốc độ 1,7 GHz
- Bộ nhớ: Tám ngăn xếp HBM3e 36 GB — tổng cộng 288 GB với băng thông khoảng 9,2 TB/s
- Kết nối: 1,2 TB/s băng thông giữa các chip qua RDMA, có thể là Ethernet do có sự tham gia của Broadcom
Dấu vân tay của Broadcom ở khắp mọi nơi. Register lưu ý rằng bộ tăng tốc gần như chắc chắn được xây dựng bằng cách sử dụng IP XPU của nhà thiết kế chip — một lựa chọn thực tế cho phép Meta tập trung vào sự khác biệt trong khi gia công các phần không đẹp mắt của thiết kế bộ tăng tốc.
Làm thế nào nó có thể chống lại Nvidia và AMD
Hình ảnh biểu diễn có nhiều sắc thái. Ở độ chính xác cao hơn thường được sử dụng để đào tạo, MTIA 400 nhanh hơn khoảng 20% so với máy gia tốc Blackwell thông số kỹ thuật hàng đầu của Nvidia trong khi vẫn tiêu thụ sức mạnh tương tự. Băng thông bộ nhớ của nó tốt hơn khoảng 15% so với các bộ phận thế hệ trước của Nvidia và AMD.
Nhưng so với thế hệ mới nhất, khoảng cách ngày càng lớn: MTIA 400 chậm hơn lần lượt từ 3x đến 3,3 lần so với Rubin của Nvidia và Instinct MI455X của AMD và nó cung cấp ít hơn một nửa băng thông bộ nhớ của các GPU mới đó. Sự thiếu hụt đó chính là lý do tại sao Meta định vị bộ phận này như một con chip huấn luyện thay vì một con chip suy luận — để phân phối mã thông báo, nó có các tùy chọn nhanh hơn nhiều.
Ở cấp độ hệ thống, sự tương đồng với các giá đỡ tiêu chuẩn công nghiệp là rất đáng chú ý. Mỗi lưỡi điện toán kết hợp bốn bộ tăng tốc MTIA 400 với một bộ chuyển mạch PCIe, một CPU x86 và một NIC mở rộng quy mô. Một giá đỡ đầy đủ chứa 18 lưỡi máy tính và 8 lưỡi chuyển đổi — 72 bộ tăng tốc trong một miền thống nhất duy nhất, một cấu hình phản ánh thiết kế giá đỡ NVL72 của Nvidia và Helios của AMD. Các slide của Meta hứa hẹn "mở rộng quy mô hàng nghìn máy gia tốc" mà không chỉ định trần cụm.
Lộ trình: MTIA 450 năm tới
MTIA 400 không phải là điểm cuối cùng. Meta tiết lộ vào tháng 3 rằng họ có kế hoạch phát hành trong sáu tháng cho bốn thế hệ MTIA mới và điểm dừng tiếp theo là MTIA 450 — một biến thể được tối ưu hóa suy luận dự kiến sẽ tăng gấp đôi băng thông bộ nhớ, có lẽ bằng cách áp dụng HBM4. Con chip đó dự kiến sẽ được sản xuất vào năm tới và sẽ rất phù hợp để chạy khối lượng công việc đề xuất dựa trên LLM.
Bất chấp tiến bộ, phân tích của The Register rất thẳng thắn: Silicon nội bộ của Meta sẽ không sớm thay thế GPU AMD hoặc Nvidia. Meta Superintelligence Labs gần như chắc chắn vẫn đang đào tạo các mô hình tiên tiến trên GPU thông thường và phần cứng dành riêng cho ứng dụng vẫn phù hợp nhất với khối lượng công việc ổn định, được hiểu rõ.
Tại sao nó lại quan trọng
MTIA 400 quan trọng vì hai lý do. Đầu tiên, nó cho thấy một công cụ siêu quy mô sẵn sàng tấn công khối lượng công việc khó khăn nhất - đào tạo biên giới - thay vì giành được những chiến thắng suy luận dễ dàng. Thứ hai, khía cạnh phân phát quảng cáo của thiết kế là một lời nhắc nhở về tính kinh tế: mỗi đô la vốn đầu tư trên silicon tùy chỉnh đều được bảo lãnh bởi doanh nghiệp quảng cáo có lợi nhuận cao nhất trong lịch sử. Nếu Meta có thể chuyển ngay cả một phần khối lượng công việc đào tạo và đề xuất ra khỏi GPU thương mại, thì mức tiết kiệm ở quy mô của nó sẽ được tính bằng hàng tỷ.
Nguồn: Bài thuyết trình Hot Chips 2026 của Meta, The Register và ServeTheHome.
---
Đi trước AINhận tin tức, phân tích và đột phá mới nhất về AI — tất cả ở cùng một nơi.
Đọc thêm tin tức về AI →
