Cerebras imechapisha uchanganuzi wa kina wa jinsi inavyotumia miundo ya AI ya vigezo trilioni kwenye maunzi yake ya kiwango cha kaki - mtazamo adimu wa umma juu ya bomba nyuma ya uelekezaji wa haraka zaidi kwa mifano ambayo uzani wao pekee unahitaji kumbukumbu ya terabytes.
Chapisho hilo, lililoandikwa na Sarah Chieng na kuchapishwa kwenye blogu ya Cerebras mnamo tarehe 22 Oktoba 2026, lilivuta hisia mpya mwishoni mwa juma baada ya kufikia ukurasa wa mbele wa Hacker News. Swali lake kuu ni rahisi: kaki moja ya Cerebras WSE-3T ina GB 44 za kumbukumbu ya juu-chip, lakini miundo ya mipaka ya trilioni ya kigezo inahitaji terabaiti ili tu kuhifadhi uzani wao. Je, unazibaje pengo hilo? For more context on this story, see our ongoing AI trends.
Kwanini Miundo ya Vigezo vya Trilioni Huvunja Vifaa vya Kawaida
Jibu linaanza na ukweli usio na wasiwasi kwa accelerators za kawaida: kwa usahihi kamili, mfano na vigezo vya trilioni tatu hauwezi kuingia kwenye kumbukumbu ya chip yoyote kwenye soko. Kundi za GPU hutatua hili kwa kugawanya miundo kwenye vifaa vingi na kusafirisha mizigo kila mara na kuwezesha kupitia viunganishi vya kasi ya juu - sehemu kubwa ya kwa nini makisio ya miundo mikubwa ni ghali na ya polepole.
Cerebras inachukua njia tofauti. Chips zake za kiwango cha kaki hupakia kiasi kikubwa cha SRAM kwenye chip - GB 44 kwa kaki ya WSE-3T - ambayo ina maana kwamba lengo la kampuni ni kuweka uzani kwenye chip, ambapo ufikiaji wa kumbukumbu ni haraka sana kuliko kiungo chochote cha off-chip.
Kampuni hiyo inasema usanifu huu unairuhusu kuendesha mifano ya vigezo vya trilioni nyingi kwa tokeni 1,000 hadi 2,000+ kwa sekunde.
Kimi K3 kama Mfano Uliofanyiwa Kazi
Ili kutengeneza maelezo halisi, Cerebras hupitia kupeleka Kimi K3, mfano wa chanzo huria na takribani vigezo trilioni 3. Mfano hutumia usanifu wa mseto: safu 69 za kuzingatia mstari na tabaka 24 mnene.
Ikitaja matokeo ya kiwango, blogu inasema Kimi K3 amepata 88.3% kwenye Terminal-Bench 2.1 - nyuma kidogo ya GPT-5.6 Sol ya 88.8% - na 91.2% kwenye BrowseComp, mbele ya GPT-5.6 Sol ya 90.4%. Nambari hizo, Cerebras hubishana, zinaonyesha usimbaji wa kiwango cha mpaka na uwezo wa mawakala katika modeli ya uzani wazi, ambayo inafanya kuwa lengo zuri la onyesho.
Mfano uliofanya kazi unachukua saizi ya wastani ya ombi 256,000, quantization ya 4-bit ya uzito (inayolingana na utekelezaji wa Hugging Face) na kache ya 8-bit ya KV.
Kukata Modeli ya 3T Katika Vipande vya GB 44
Hesabu ndio sehemu inayoangazia zaidi ya chapisho. Kwa biti 4 kwa kila kigezo, vigezo vya trilioni 3 vya Kimi K3 vinafikia takriban TB 1.5 ya uzani mbichi. Imegawanywa katika tabaka 93 za muundo, kila safu inahitaji takriban GB 16.
Hiyo inafaa vizuri katika GB 44 inayopatikana kwenye kila kaki, lakini aina mbili za safu zinagawanyika tofauti:
- Safu mnene zinahitaji nafasi ya akiba ya KV, kwa sababu umakini kamili huhifadhi funguo na thamani kwa kila tokeni katika kila ombi linalotumika. Cerebras huweka safu mnene kwa kila kaki, na kuacha SRAM iliyobaki kwa akiba hiyo.
- Safu za uangalizi wa mstari huweka tu hali ndogo, ya saizi isiyobadilika kwa kila ombi bila kujali urefu wa muktadha, kwa hivyo hakuna akiba ya KV inayohitajika. Hiyo inaacha nafasi ya tabaka mbili za mstari kwa kila kaki.
Ukiwa na safu 69 za mstari na safu mnene 24, muundo huu unapanga ramani hadi kaki 35 kwa safu laini pamoja na kaki 24 za tabaka mnene - kaki 59 kwa jumla kwa nakala moja ya Kimi K3.
Uzito Hausogei Kamwe - Uamilisho Pekee Hufanya
Wazo kuu la pili ni kile Cerebras hufanya - na haitumii - kati ya hizo kaki 59. Kampuni hutekeleza miundo kama bomba: baada ya mkusanyaji kuweka tabaka kwenye maeneo ya kaki, wakati wa utekelezaji huweka chati za njia ambazo tokeni huchukua kutoka kaki hadi kaki.
Muhimu, kwa sababu kila safu inafaa kabisa kwenye kaki moja (au mbili, kwa tabaka za mstari), uzani wa mfano haupaswi kamwe kusonga. Tabaka hazijagawanywa katika kaki. Uwezeshaji pekee huvuka kutoka kaki moja hadi nyingine, ikibebwa juu ya RDMA kwenye Ethaneti ya kawaida kwa muda wa kurukaruka wa takribani sekunde 2.
Hoja hiyo ya muundo inaelezea mengi juu ya madai ya utendaji ya Cerebras. Katika uwekaji wa GPU, uzani wa kusonga au hali ya kugawanya kati ya vifaa mara nyingi ndio kizuizi; kwenye maunzi ya Cerebras, muunganisho huwahi kubeba tu vidhibiti vidogo zaidi vya kuwezesha.
Kwa nini Ni Muhimu kwa Soko la Maelekezo
Chapisho kwa kiasi fulani ni ufafanuzi wa kihandisi na kwa kiasi fulani ni hoja: kwamba SRAM ya kiwango cha kaki ni njia inayoaminika ya kuhudumia miundo inayozidi kuwa mikubwa ambayo sekta hiyo inasafirisha. Kadiri matoleo ya uzani huria kama Kimi K3 yanavyokaribia vigezo trilioni tatu, ukuta wa kumbukumbu unakuwa kikwazo kinachobainisha cha uchumi wa uelekezaji, na mbinu zinazoweka uzani kuwa tuli zina faida ya kimuundo kwa kasi ya kila tokeni.
Pia inasisitiza ni kiasi gani kinategemea quantization. Utumiaji mzima hutegemea uzani wa 4-bit na kache ya 8-bit KV - mbinu zinazopunguza alama za kumbukumbu kwa takriban 75% au zaidi ikilinganishwa na msingi wa 16-bit huku zikihifadhi utendakazi wa alama. Bila wao, hata kaki 59 hazingetosha.
Makubaliano ni ya kweli, pia. Mfumo wa kaki 59 ni mashine kubwa, iliyobobea, na mbinu ya bomba inadhania kwamba maombi yanaweza kuunganishwa kwenye mfumo kwa ufanisi. Blogu ya Cerebras inashughulikia upatanifu kama mojawapo ya mada zake za msingi, ikibainisha kuwa usanifu umeundwa kushughulikia idadi kubwa ya maombi ya wakati mmoja.
Kwa sasa, chapisho linasimama kama mojawapo ya maelezo ya wazi zaidi ya umma ya kile kinachohitajika ili kutoa mfano wazi wa kiwango cha mpaka kwa kasi ya ishara ya takwimu nne - na ishara kwamba mazungumzo kuhusu maunzi ya uelekezaji yanahama kutoka kwa chips hadi mifumo ya kaki nzima.
Chanzo: Cerebras blog, “Jinsi tunavyotumia vielelezo vya mipaka ya Trilioni kwenye Cerebras” (22 Oktoba 2026).---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
