Cerebras CS-4 Yazinduliwa Na WSE-3 Turbo: Rack-Scale AI Inference kwa 30x GPU Speed

Cerebras imeondoa CS-4, mfumo wa uelekezaji wa kiwango cha rack wa AI uliojengwa karibu na kichakataji wake kipya wa WSE-3 Turbo wafer-scale, ikidai kuwa mashine hiyo inatoa hadi mara 30 ufahamu wa haraka zaidi kuliko mifumo inayotegemea GPU huku kampuni ikijiweka kama njia mbadala ya kasi ya ufalme wa kituo cha data cha Nvidia.

Uzinduzi huo, uliotangazwa Jumanne na wenye maelezo ya kina katika kurasa za bidhaa za kampuni hiyo na wimbi la habari kutoka kwa Reuters, Bloomberg na Rejesta, unaashiria uboreshaji wa vifaa muhimu zaidi wa Cerebras tangu kutangazwa kwa umma - na wakati muhimu kwa kampuni ambayo hisa zake zimetatizika tangu IPO yake. Wawekezaji wanaonekana kuwa makini: hisa za Cerebras (CBRS) ziliongezeka kwenye habari, na Business Daily ya Mwekezaji ilinukuu maoni ya Mkurugenzi Mtendaji kwamba soko la uelekezaji la AI "linakua haraka sana."

Kwa wasomaji wanaofuatilia mbio zinazoharakishwa ili kufanya miundo ya AI kujibu haraka, uzinduzi wa CS-4 ni mojawapo ya hadithi za maunzi muhimu zaidi katika robo ya mwaka huu, na hutua huku kukiwa na mabadiliko makubwa katika sekta ya AI ambayo yanaendelea kuunda upya mazingira ya kukokotoa.

Nini Ndani ya CS-4

Kipengele kikuu cha habari ni WSE-3 Turbo, toleo lililoboreshwa la Injini ya Wafer Scale ya chakula cha jioni yenye ukubwa wa sahani ya Cerebras. Kulingana na upigaji mbizi wa kina wa kiufundi wa The Register, WSE-3T si silikoni mpya - inabaki na mchakato ule ule wa TSMC 5nm, eneo la kufa la milimita 46,225, transistors trilioni 4, cores 900,000 na GB 44 za on-wafer SRAM kama WSE-3 ya miaka miwili.

Badala yake, Cerebras ilifanikisha utendakazi wake maradufu kwa kusukuma chip iliyopo kwa nguvu zaidi. WSE-3T huongeza hesabu ndogo ya FP16 hadi 250 petaFLOPS, huongeza utendaji mnene wa FP16 kwa wastani wa petaFLOPS 25, huongeza kipimo data cha kumbukumbu hadi petabytes 43.2 kwa sekunde, na huongeza kipimo data cha I/O hadi terabiti 2.4 kwa sekunde. Rejesta inakadiria kuwa kampuni sasa inaweka silikoni kwa takriban 2.8 GHz, kutoka takriban 1.4 GHz katika kizazi kilichopita.

Ujanja, kulingana na Cerebras, ni mfumo ulioundwa upya wa utoaji wa nishati ambao umekaa milimita 0.5 tu kutoka kwa kichakataji - takribani mara 100 kuliko ~ milimita 50 kawaida ya bodi za kawaida za GPU. Ukaribu huo karibu uondoe upotevu wa nishati ya kiwango cha ubao na kuruhusu nguvu maradufu kufikia kaki, kuwezesha masafa ya juu ya uendeshaji nyuma ya utoaji wa haraka wa tokeni.

Usanifu wa Rafu ya Nexus

Zaidi ya chipu yenyewe, CS-4 inatanguliza kile Cerebras inachokiita Usanifu wa Nexus Platform, muundo wake wa kwanza halisi wa kiwango cha rack na jibu la moja kwa moja kwa mifumo ya rack ya Nvidia ya NVL72 na Helios ya AMD. Kila CS-4 inaweza kubeba hadi vichakataji vitatu vya WSE-3T vilivyowekwa ndani ya "Vifurushi vya Kaki" vinavyojitosheleza - vifurushi vya 3D ambavyo vinakunja kaki, ubadilishaji wa nguvu, upoaji wa moja kwa moja wa kioevu, I/O ya kasi ya juu na kudhibiti vifaa vya elektroniki kwenye mkusanyiko mmoja na vijenzi vichache kwa 50%.

Muundo wa msimu hutenganisha nguvu thabiti, baridi na safu ya mtandao kutoka kwa compute. Cerebras PowerRack inaweza kusakinishwa na kuhitimu usanikishaji kabla ya komputa yoyote kufika, na mikoba kisha kuteleza mahali pake - kupunguza muda wa kutumwa kutoka siku hadi saa, kulingana na kampuni.

Matumizi ya nguvu ni makubwa. Rejesta inakadiria karibu kW 46 kwa kila mkoba na jumla ya droo ya mfumo ya 120 hadi 140 kW - nambari zinazovutia ambazo hata hivyo zinaonekana kuwa za kihafidhina karibu na mifumo ya rack 240 hadi 250 kW AMD na Nvidia zinatarajiwa kusafirishwa baadaye mwaka huu.

Kuua Swichi

Labda chaguo la kitaalam la kuvutia zaidi ni unganisho. Badala ya kuelekeza trafiki ya kaki hadi kaki kupitia swichi - mbinu ya AWS iliyopitishwa kwa vichapuzi vyake vya Trainium3 - Cerebras huweka chipsi zake kwenye topolojia ya 2D ya torus ambapo kaki jirani huzungumza moja kwa moja. Muundo huo unapunguza muda wa kusubiri wa kaki hadi kaki kutoka kwa sekunde tano hadi mbili tu, na Cerebras inasema matundu yanaweza kuhimili mifano ya hadi vigezo trilioni 50, kwa raha zaidi ya kitu chochote kilichopo kwa sasa.

Matokeo ya kasi ni ya kushangaza. Kwenye mfumo mmoja wa CS-4, kampuni inayoweka alama kwenye Uchambuzi Bandia ilipima hadi tokeni 4,400 kwa sekunde kwa kila mtumiaji kwenye gpt-oss-120b - takriban mara 12 ya tokeni 350 kwa sekunde ya huduma za haraka zaidi za maelekezo za GPU zinazopatikana leo. Cerebras pia inadai mfumo huo unashikilia zaidi ya tokeni 1,000 kwa sekunde kwenye mifano inayozidi vigezo trilioni 10.

Mkakati wa Ubia Usiogawanyika

Hasa, Cerebras haijaribu tena kuendesha bomba zima la uelekezaji kwenye silicon yake mwenyewe. Kampuni hiyo imeshirikiana na AWS na AMD ili kupakua hatua ya usindikaji wa haraka wa hesabu kwenye Trainium XPUs na GPU za Instinct mtawalia, na kuacha injini zake za kiwango cha kaki kushughulikia awamu ya kusimbua ambayo ni nyeti kwa muda ambapo hifadhi zao kubwa za SRAM hung'aa.

Uzinduzi wa CS-4 pia unapanua ushirikiano wa Cerebras na OpenAI. Yahoo Finance iliripoti kufichuliwa pamoja na ushirikiano mpya wa OpenAI na AMD unaolenga kuharakisha uelekezaji wa AI - kujenga kwenye hali ya Ultrafast ambayo kampuni zilianzisha mapema mwezi Agosti, ambayo ilileta GPT-5.6 Sol kwa watumiaji hadi tokeni 750 kwa sekunde.

Tahadhari Nyuma ya Nambari za Kichwa

Wachambuzi wa tasnia wanahimiza tahadhari fulani juu ya takwimu za uuzaji. Rejesta inabainisha kuwa kichwa cha habari cha Cerebras 250 petaFLOPS kinategemea uchache, ambao kwa ujumla haufaidi uelekezaji wa modeli kubwa ya lugha, na kwamba takwimu za kilele cha kipimo data cha kumbukumbu kwa kiasi kikubwa ni za kinadharia kwa vile WSE-3 ilikosa komputa ya kueneza SRAM yake yenyewe. Chapisho hilo pia lilihoji kwa nini Cerebras iliongeza utendakazi maradufu badala ya kuongeza uwezo wa SRAM, ambayo haijakua ipasavyo tangu WSE-2 kuzinduliwa miaka mitano iliyopita - chaguo la kushangaza katika enzi ya makisio yaliyogawanywa ambapo vichapuzi vya kusimbua hunufaika zaidi kutokana na kumbukumbu.

Bado, fursa ya soko ni ya kweli. Kadiri gumzo na mawakala wa AI wanavyohitaji nyakati za majibu ya haraka zaidi, kasi ya uelekezaji imekuwa kipambanuzi cha kweli cha ushindani, na Cerebras sasa imeonyesha kuwa inaweza kusisitiza teknolojia yake isiyo ya kawaida ya kiwango cha kaki kwenye mwanguko wa kibiashara.

Usafirishaji wa kwanza wa CS-4 utaanza robo hii, huku mifumo ya kwanza ikitarajiwa mtandaoni kabla ya mwisho wa Septemba. Ikiwa hiyo inatosha kuzima utawala wa Nvidia bado itaonekana - lakini kwa mara ya kwanza baada ya muda, uelekezaji wa haraka wa AI kwenye tasnia una anwani mpya.

Kaa Mbele ya AI

Maunzi huzinduliwa kama masoko ya CS-4 na kufafanua upya kile ambacho mifumo ya AI inaweza kufanya. Soma habari zaidi za AI ili kupata kila jambo.

Gundua habari mpya zaidi za AI →