Cerebras Systems poinformowała, że wprowadziła do produkcji zdezagregowane wnioskowanie, dzieląc obciążenia związane z wnioskowaniem AI pomiędzy konwencjonalne procesory graficzne i procesory w skali płytki w konfiguracji, która według firmy zapewnia pięć razy więcej tokenów na megawat bez poświęcania szybkości generowania.
Ogłoszenie, opublikowane na blogu firmy 17 listopada 2026 r., oznacza wyraźną zmianę dla firmy, która od lat pozycjonuje swój silnik Wafer Scale Engine jako alternatywę dla wnioskowania opartego na GPU, a nie jego uzupełnienie. Teraz Cerebras twierdzi, że procesory graficzne obsługują etap szybkiego przetwarzania, podczas gdy własne systemy obsługują etap generowania tokenów. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
Po co dzielić wnioskowanie na dwie części?
Wnioskowanie odbywa się w dwóch etapach. Funkcja Prefill przetwarza monit użytkownika i tworzy pośredni stan modelu. Dekodowanie wykorzystuje następnie ten stan do generowania tokenów wyjściowych, pojedynczo, w pętli autoregresyjnej, która powtarza się dla każdego słowa odpowiedzi.
Te dwa etapy mają bardzo różne profile obliczeniowe. Wstępne wypełnianie wymaga dużej mocy obliczeniowej i jest równoległe, a to właśnie w tym obszarze przodują procesory graficzne. Dekodowanie jest zależne od przepustowości pamięci i odbywa się sekwencyjnie, co według Cerebrasa stanowi zaletę architektury płytkowej, ponieważ cały model może znajdować się na jednym kawałku krzemu bez komunikacji między chipami, która spowalnia klastry GPU podczas generowania.
Firma eksperymentowała z innymi sposobami podziału zadań. W swoim poście na blogu Cerebras wymienia schematy docelowej wersji roboczej, w których mały model proponuje tokeny, a większy je weryfikuje, a także separację uwagi i FFN wśród rozważanych alternatyw. Argumentuje jednak, że oddzielenie wstępnego wypełniania od dekodowania jest wyjątkowo przydatne w zastosowaniach wysoce interaktywnych, ponieważ etap dekodowania utrzymuje nienaruszoną charakterystyczną dla Cerebras ultraszybką prędkość generowania.
Liczby leżące u podstaw roszczenia
Zgodnie z zapowiedzią zdezagregowana konfiguracja jest już dostępna w chmurze Cerebras Inference Cloud i zapewnia pięć razy więcej tokenów na megawat przy tych samych prędkościach generacji, które firma już obsługiwała. Cerebras twierdzi, że partnerzy infrastrukturalni mogą również wdrażać tę samą podzieloną architekturę we własnych centrach danych.
Logika ekonomiczna jest prosta. Dostawcy wnioskowania uzyskują przychody na token, a moc jest wiążącym ograniczeniem wydajności. Jeśli ten sam megawat daje pięciokrotność tokenów, ten sam obiekt generuje proporcjonalnie większy potencjał przychodów, co firma ilustruje tabelą porównującą zagregowane i zdezagregowane konfiguracje obsługi.
Oświadczenie opiera się również na prognozach popytu, aby dowieść, że branża potrzebuje każdego możliwego wzrostu wydajności. Powołując się na badania Goldman Sachs Research, Cerebras twierdzi, że do roku 2030 zapotrzebowanie na wnioskowanie AI wzrośnie około 24-krotnie w porównaniu z poziomem z 2026 r., podczas gdy pojemność centrów danych wzrośnie jedynie około 2,2-krotnie w tym samym okresie. Jeśli obie prognozy się sprawdzą, rozbieżność między tym, czego chcą użytkownicy, a tym, jakie urządzenia mogą zasilać, stanie się decydującym ograniczeniem rozwoju sztucznej inteligencji pod koniec lat 20. XX wieku.
Aplikacje agentowe napędzają kryzys
Firma przypisuje wzrost popytu szybkiemu skalowaniu się aplikacji agentowych w 2026 r., wymieniając Muse, Copilot i Codex jako przykłady produktów wymagających wysoce interaktywnego wnioskowania, aby utrzymać zaangażowanie użytkowników. Agenci konwersacyjni przesyłający strumieniowo odpowiedzi token po tokenie to dokładnie te obciążenia, w przypadku których szybkość generowania jest funkcją skierowaną do użytkownika, a nie metryką zaplecza.
Cerebras sytuuje start w ramach szerszego nacisku na pojemność. Firma wskazuje na niedawno ogłoszony system CS-4, radykalne zwiększenie produkcji i planowaną moc centrum danych na poziomie około 700 megawatów jako elementy, które pozwolą jej i jej partnerom obsługiwać znacznie większy ruch w roku 2027 i później.
Pragmatyczny zwrot w stronę skali opłatka
Ze strategicznego punktu widzenia ogłoszenie brzmi jako pragmatyczne dostosowanie się do dominacji GPU. Zamiast prosić klientów o przeniesienie całych torów wnioskowania na egzotyczny krzem, Cerebras proponuje podział pracy: pozwól procesorom graficznym robić to, do czego są zoptymalizowane, i pozwól sprzętowi w skali płytki robić to, co potrafi najlepiej. Dla dostawców wnioskowania, znajdujących się pomiędzy rosnącym popytem a ograniczeniami mocy, najważniejsza jest pojemność, którą mogą zwiększyć bez czekania na sprzęt nowej generacji.
To, czy założenie pięciokrotnej wydajności sprawdzi się w przypadku różnych architektur modeli i rzeczywistych miksów ruchu, stanie się jasne dopiero, gdy partnerzy wdrożą konfigurację na dużą skalę. Ale kierunek rozwoju jest jasny w całej branży. Ponieważ wnioskowanie zastępuje szkolenie jako dominujące obciążenie obliczeniowe, każdy większy dostawca sprzętu ponownie sprawdza, w jaki sposób należy podzielić, zasilać i wycenić dwa etapy generowania.
Porównanie z podejściami natywnymi dla GPU
Główni dostawcy wnioskowania hiperskalowego stosują własne strategie dezagregacji, zazwyczaj dostosowując oba etapy rodzin procesorów graficznych do każdego celu. Wariant Cerebras wyróżnia się pod względem przekraczania granic dostawców: firma potwierdziła, że procesory graficzne AMD obsługują etap wstępnego napełniania w swojej konfiguracji produkcyjnej, a za dekodowanie odpowiadają systemy Cerebras. Ta heterogeniczność ma znaczenie dla operatorów, ponieważ wstępne wypełnienie i dekodowanie są traktowane jako osobne towary, a nie pojedynczy zintegrowany stos.
Opublikowane wyniki spółki podkreślają, że podział pozwala zachować prędkość wytwarzania, a nie zamieniać ją na efektywność. To rozróżnienie stanowi odpowiedź na wieloletnią krytykę zdezagregowanego udostępniania: oddzielne wstępne wypełnianie wsadowe może zwiększyć opóźnienie pierwszego tokena, a każda konfiguracja spowalniająca pętlę dekodowania podważa interaktywne wrażenie oferowane przez usługi wnioskowania klasy premium. Cerebras twierdzi, że dzięki takiemu rozwiązaniu unika się obu kar, chociaż prawdziwym testem będą niezależne testy porównawcze dotyczące różnych długości komunikatów i wzorców ruchu.
Dla czytelników AI Buzz Wire śledzących wyścig w infrastrukturze wiadomość od Cerebras jest taka, że era wnioskowania opartego na jednym chipie dla wszystkich ustępuje miejsca specjalnie zbudowanym potokom – i że firma zamierza posiadać odszyfrowaną połowę z nich.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →