Společnost Cerebras zveřejnila podrobný technický rozpis toho, jak nasazuje modely umělé inteligence s biliony parametrů na svém hardwaru s waferovým měřítkem – ojedinělý veřejný pohled na instalaci ultrarychlých závěrů u modelů, jejichž hmotnost sama o sobě vyžaduje terabajty paměti.
Příspěvek, který napsala Sarah Chieng a byl zveřejněn na blogu Cerebras dne 22. října 2026, přitáhl o víkendu obnovenou pozornost poté, co se dostal na titulní stránku Hacker News. Jeho ústřední otázka je jednoduchá: jeden wafer Cerebras WSE-3T má 44 GB paměti na čipu, ale hraniční modely s biliony parametrů potřebují terabajty jen k uložení své hmotnosti. Jak překlenete tu propast? For more context on this story, see our ongoing AI trends.
Proč modely s biliony parametrů porušují normální hardware
Odpověď začíná nepříjemnou pravdou pro konvenční akcelerátory: při plné přesnosti se model se třemi biliony parametrů nevejde do paměti žádného jednotlivého čipu na trhu. Clustery GPU to řeší rozdělením modelů mezi mnoho zařízení a neustálým doručováním závaží a aktivací přes vysokorychlostní propojení – velká část toho, proč je vyvozování u velkých modelů drahé a pomalé.
Cerebras má jiný přístup. Jeho wafer-scale čipy obsahují enormní množství on-chip SRAM – 44 GB na WSE-3T wafer – což znamená, že cílem společnosti je udržet váhy na čipu, kde je přístup k paměti dramaticky rychlejší než jakýkoli off-chip link.
Společnost tvrdí, že tato architektura jí umožňuje provozovat modely s mnoha biliony parametrů rychlostí 1 000 až 2 000+ tokenů za sekundu.
Kimi K3 jako fungující příklad
Aby bylo vysvětlení konkrétní, Cerebras prochází nasazením Kimi K3, open-source modelu se zhruba 3 biliony parametrů. Model využívá hybridní architekturu: 69 vrstev s lineární pozorností a 24 hustých vrstev.
S odvoláním na výsledky benchmarku blog uvádí, že Kimi K3 dosahuje 88,3 % na Terminal-Bench 2.1 – těsně za 88,8 % GPT-5.6 Sol – a 91,2 % na BrowseComp, před GPT-5.6 Sol 90,4 %. Tato čísla, tvrdí Cerebras, ukazují kódování na hraniční úrovni a agentní schopnosti v modelu otevřených vah, což z něj dělá dobrý demonstrační cíl.
Zpracovaný příklad předpokládá průměrnou velikost požadavku 256 000 tokenů, 4bitovou kvantizaci váhy (odpovídající implementaci Hugging Face) a 8bitovou KV cache.
Rozřezání 3T modelu na 44 GB kousky
Aritmetika je nejjasnější částí příspěvku. Při 4 bitech na parametr dosahují 3 biliony parametrů Kimi K3 zhruba 1,5 TB hrubé váhy. Při rozdělení mezi 93 vrstev modelu potřebuje každá vrstva přibližně 16 GB.
To přesně zapadá do 44 GB dostupných na každém waferu, ale dva typy vrstev se dělí odlišně:
- Husté vrstvy potřebují místo pro mezipaměť KV, protože plná pozornost ukládá klíče a hodnoty pro každý token v každém aktivním požadavku. Cerebras umístí jednu hustou vrstvu na wafer a ponechá zbývající SRAM pro tuto mezipaměť.
- Vrstvy lineární pozornosti udržují pouze malý stav s pevnou velikostí na požadavek bez ohledu na délku kontextu, takže není potřeba žádná KV cache. To ponechává prostor pro dvě lineární vrstvy na wafer.
Se 69 lineárními vrstvami a 24 hustými vrstvami model mapuje na 35 waferů pro lineární vrstvy plus 24 waferů pro husté vrstvy – celkem 59 waferů pro jednu kopii Kimi K3.
Závaží se nikdy nepohybují – dělají to pouze aktivace
Druhou klíčovou myšlenkou je to, co Cerebras posílá – a neposílá – mezi těchto 59 plátků. Společnost spouští modely jako potrubí: poté, co kompilátor namapuje vrstvy na oblasti waferů, běhové prostředí zmapuje cestu, kterou tokeny ubírají z waferu na wafer.
Zásadní je, že protože každá vrstva se zcela vejde na jeden plátek (nebo dva, u lineárních vrstev), závaží modelu se nikdy nemusí pohybovat. Vrstvy nejsou rozděleny přes plátky. Pouze aktivace přecházejí z jednoho waferu na druhý, přenášené přes RDMA na standardním Ethernetu s dobou skoku zhruba 2 mikrosekundy.
Tento bod návrhu vysvětluje hodně o výkonnostních nárocích Cerebras. Při nasazení GPU je často překážkou přesun závaží nebo stav shardingu mezi zařízeními; na hardwaru Cerebras nese propojení vždy pouze mnohem menší aktivační tenzory.
Proč je to důležité pro inferenční trh
Příspěvek je částečně inženýrským vysvětlením a částečně argumentem: že wafer-scale SRAM je věrohodný způsob, jak sloužit stále enormnějším modelům, které průmysl dodává. Jak se verze s otevřenou váhou, jako je Kimi K3, blíží třem bilionům parametrů, paměťová zeď se stává určujícím omezením ekonomie inference a přístupy, které udržují váhy nehybné, mají strukturální výhodu v rychlosti na token.
Také zdůrazňuje, jak moc závisí na kvantování. Celé nasazení závisí na 4bitových váhách a 8bitové KV mezipaměti – technikách, které snižují nároky na paměť zhruba o 75 % nebo více ve srovnání s 16bitovými základními liniemi při zachování výkonu benchmarku. Bez nich by nestačilo ani 59 oplatek.
Kompromisy jsou také reálné. Systém s 59 destičkami je velký, specializovaný stroj a zřetězení předpokládá, že požadavky lze efektivně dávkovat napříč systémem. Blog Cerebras se zabývá souběžností jako jedním ze svých hlavních témat a poznamenává, že architektura je navržena tak, aby zvládla vysoký počet současných požadavků.
Příspěvek je prozatím jedním z nejjasnějších veřejných vysvětlení toho, co je vlastně zapotřebí k poskytování otevřeného modelu v hraničním měřítku při čtyřmístných rychlostech tokenů – a je znamením, že se konverzace o inferenčním hardwaru posouvá od čipů k celowaferovým systémům.
Zdroj: Blog Cerebras, „Jak nasazujeme hraniční modely s biliony parametrů na Cerebras“ (22. října 2026).---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
