Cerebras Systems cho biết họ đã đưa suy luận phân tán vào sản xuất, phân chia khối lượng công việc suy luận AI giữa các GPU thông thường và bộ xử lý quy mô wafer của nó trong một cấu hình mà công ty tuyên bố cung cấp số lượng mã thông báo nhiều hơn năm lần trên mỗi megawatt mà không làm giảm tốc độ tạo ra.

Thông báo được đăng trên blog của công ty vào ngày 17 tháng 11 năm 2026, đánh dấu một sự thay đổi đáng chú ý đối với một công ty đã dành nhiều năm định vị Công cụ quy mô wafer của mình như một giải pháp thay thế cho suy luận dựa trên GPU thay vì bổ sung cho nó. Giờ đây, Cerebras cho biết GPU xử lý giai đoạn xử lý nhanh chóng trong khi hệ thống của chính nó xử lý giai đoạn tạo mã thông báo. For more context on this story, see our ongoing artificial intelligence updates.

Tại sao chia suy luận thành hai?

Suy luận xảy ra trong hai giai đoạn. Điền trước xử lý lời nhắc của người dùng và tạo ra trạng thái mô hình trung gian. Sau đó, giải mã sử dụng trạng thái đó để tạo ra các mã thông báo đầu ra, mỗi lần một mã thông báo, trong một vòng lặp tự động lặp lại cho mỗi từ của phản hồi.

Hai giai đoạn có hồ sơ tính toán rất khác nhau. Tính năng điền trước nặng về tính toán và song song, đó là điểm mà GPU vượt trội. Giải mã bị giới hạn băng thông bộ nhớ và tuần tự, đó là lúc Cerebras cho rằng kiến ​​trúc quy mô wafer của nó có lợi thế hơn, vì toàn bộ mô hình có thể nằm trên một miếng silicon duy nhất mà không cần giao tiếp giữa các chip làm chậm các cụm GPU trong quá trình tạo.

Công ty đã thử nghiệm những cách khác để phân chia khối lượng công việc. Trong bài đăng trên blog của mình, Cerebras liệt kê các kế hoạch mục tiêu dự thảo, trong đó một mô hình nhỏ đề xuất mã thông báo và một mô hình lớn hơn sẽ xác minh chúng, đồng thời phân tách FFN chú ý giữa các lựa chọn thay thế mà nó đã xem xét. Nhưng họ lập luận rằng việc tách phần điền trước khỏi phần giải mã là phù hợp nhất với các ứng dụng có tính tương tác cao, bởi vì giai đoạn giải mã giữ nguyên tốc độ tạo cực nhanh đặc trưng của Cerebras.

Những con số đằng sau lời tuyên bố

Theo thông báo, cấu hình phân tách hiện có trong Đám mây suy luận Cerebras và cung cấp số lượng token nhiều hơn năm lần trên mỗi megawatt với cùng tốc độ thế hệ mà công ty đã phục vụ. Cerebras cho biết các đối tác cơ sở hạ tầng cũng có thể triển khai kiến ​​trúc phân chia tương tự trong trung tâm dữ liệu của riêng họ.

Logic kinh tế rất đơn giản. Các nhà cung cấp suy luận kiếm được doanh thu trên mỗi mã thông báo và sức mạnh là hạn chế ràng buộc về năng lực. Nếu cùng một megawatt mang lại số token gấp năm lần, thì cùng một cơ sở sẽ tạo ra tiềm năng doanh thu tương ứng nhiều hơn, điều này được công ty minh họa bằng bảng so sánh các cấu hình phân phối tổng hợp và phân tách.

Thông báo này cũng dựa trên dự báo nhu cầu để lập luận rằng ngành này cần mọi mức tăng hiệu quả mà nó có thể đạt được. Trích dẫn Nghiên cứu của Goldman Sachs, Cerebras cho biết nhu cầu suy luận AI được dự đoán sẽ tăng khoảng 24 lần so với mức năm 2026 vào năm 2030, trong khi công suất trung tâm dữ liệu chỉ tăng khoảng 2,2 lần so với cùng kỳ. Nếu cả hai dự đoán đều đúng, khoảng cách giữa những gì người dùng muốn chạy và những gì cơ sở vật chất có thể cung cấp sẽ trở thành hạn chế xác định cho việc xây dựng AI vào cuối những năm 2020.

Ứng dụng đại lý thúc đẩy cuộc khủng hoảng

Công ty cho rằng nhu cầu tăng vọt là do các ứng dụng tác nhân mở rộng nhanh chóng vào năm 2026, đặt tên Muse, Copilot và Codex là ví dụ về các sản phẩm yêu cầu suy luận tương tác cao để thu hút người dùng. Các tác nhân đàm thoại truyền phát mã thông báo phản hồi theo mã thông báo chính xác là khối lượng công việc trong đó tốc độ tạo là một tính năng hướng tới người dùng chứ không phải là chỉ số phía sau.

Cerebras đặt việc khởi động trong phạm vi đẩy công suất rộng hơn. Công ty chỉ ra hệ thống CS-4 được công bố gần đây, sản lượng sản xuất của họ tăng đáng kể và công suất trung tâm dữ liệu theo kế hoạch là khoảng 700 megawatt là những yếu tố sẽ cho phép họ và các đối tác phục vụ lưu lượng truy cập nhiều hơn đáng kể vào năm 2027 và hơn thế nữa.

Một bước ngoặt thực dụng cho quy mô wafer

Về mặt chiến lược, thông báo này được coi là một sự điều chỉnh thực tế cho sự thống trị của GPU. Thay vì yêu cầu khách hàng chuyển toàn bộ đường dẫn suy luận sang silicon ngoại lai, Cerebras đang đề xuất phân công lao động: để GPU làm những gì chúng được tối ưu hóa và để phần cứng ở quy mô wafer làm những gì nó làm tốt nhất. Đối với các nhà cung cấp dịch vụ suy luận đang bị bó buộc giữa nhu cầu ngày càng tăng và hạn chế về điện năng, thì mức độ là công suất mà họ có thể bổ sung mà không cần chờ phần cứng thế hệ mới.

Liệu tuyên bố về hiệu quả gấp 5 lần có được duy trì trên các kiến ​​trúc mô hình đa dạng và kết hợp lưu lượng truy cập trong thế giới thực hay không sẽ chỉ trở nên rõ ràng khi các đối tác triển khai cấu hình trên quy mô lớn. Nhưng hướng đi rõ ràng trong toàn ngành. Khi suy luận thay thế việc đào tạo thành khối lượng công việc điện toán chiếm ưu thế, mọi nhà cung cấp phần cứng lớn đều đang kiểm tra lại cách phân chia, cung cấp năng lượng và định giá hai giai đoạn tạo ra.

So sánh nó với các phương pháp tiếp cận GPU-Native

Các nhà cung cấp suy luận siêu quy mô lớn đã theo đuổi chiến lược phân chia của riêng họ, thường điều chỉnh cả hai giai đoạn trên dòng GPU cho từng mục đích. Biến thể của Cerebras rất đặc biệt khi vượt qua các dòng nhà cung cấp: công ty xác nhận rằng GPU AMD xử lý giai đoạn điền trước trong cấu hình sản xuất của mình, với hệ thống Cerebras chịu trách nhiệm giải mã. Tính không đồng nhất đó quan trọng đối với các nhà khai thác vì nó coi việc điền trước và giải mã như những mặt hàng có thể mua được riêng biệt chứ không phải là một ngăn xếp tích hợp duy nhất.

Kết quả được công bố của công ty nhấn mạnh rằng việc phân chia sẽ duy trì tốc độ phát điện thay vì đánh đổi nó để lấy hiệu quả. Sự khác biệt đó giải quyết một lời chỉ trích lâu nay về việc phân phối phân tách: việc điền trước theo nhóm riêng biệt có thể tăng thêm độ trễ cho mã thông báo đầu tiên và bất kỳ cấu hình nào làm chậm vòng giải mã sẽ làm suy yếu cảm giác tương tác mà các dịch vụ suy luận cao cấp mang lại. Cerebras tuyên bố sự sắp xếp của nó tránh được cả hai hình phạt, mặc dù các điểm chuẩn độc lập trên các độ dài thời gian nhắc nhở và mô hình giao thông khác nhau sẽ là thử nghiệm thực sự.

Đối với những độc giả AI Buzz Wire đang theo dõi cuộc đua cơ sở hạ tầng, thông điệp từ Cerebras là thời đại suy luận một con chip phù hợp với tất cả đang nhường chỗ cho các đường ống được xây dựng có mục đích - và công ty dự định sở hữu một nửa bộ giải mã trong số đó.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →