Cerebras Systems ujar manawa wis nggawe inferensi sing dipisahake menyang produksi, misahake beban kerja inferensi AI ing antarane GPU konvensional lan pemroses skala wafer ing konfigurasi sing diklaim perusahaan ngirim token kaping lima luwih saben megawatt tanpa ngorbanake kecepatan generasi.
Pengumuman kasebut, sing diterbitake ing blog perusahaan tanggal 17 Nopember 2026, menehi tandha owah-owahan penting kanggo perusahaan sing wis pirang-pirang taun nempatake Wafer Scale Engine minangka alternatif kanggo inferensi adhedhasar GPU tinimbang nglengkapi. Saiki, Cerebras ujar GPU nangani tahap pangolahan cepet nalika sistem dhewe nangani tahap generasi token. For more context on this story, see our ongoing more AI stories.
Napa Inferensi Pisah dadi Loro?
Inferensi dumadi ing rong tahap. Prefill ngolah pituduh pangguna lan ngasilake negara model penengah. Decode banjur nggunakake negara kasebut kanggo ngasilake token output, siji-sijine, ing daur ulang autoregressive sing mbaleni saben tembung saka respon.
Loro tahapan kasebut duwe profil komputasi sing beda banget. Prefill minangka komputasi-abot lan paralel, yaiku ing ngendi GPU unggul. Decode punika memori-bandwidth-bound lan urutan, kang ngendi Cerebras udur arsitektur wafer-ukuran sawijining ngemu kauntungan, wiwit kabeh model bisa njagong ing Piece siji saka silikon tanpa komunikasi antar-chip sing slows kluster GPU sak generasi.
Perusahaan wis nyoba karo cara liya kanggo misahake beban kerja. Ing postingan blog, Cerebras nyathet skema target target, ing ngendi model cilik ngusulake token lan sing luwih gedhe bakal verifikasi, lan pamisahan perhatian-FFN ing antarane alternatif sing dianggep. Nanging ujar manawa misahake prefill saka decode cocog kanggo aplikasi sing interaktif banget, amarga tahap decode njaga kacepetan generasi ultrafast tandha Cerebras.
Angka ing Konco Klaim
Miturut woro-woro kasebut, konfigurasi sing dipisahake saiki manggon ing Cerebras Inference Cloud lan ngirim token kaping lima luwih saben megawatt kanthi kecepatan generasi sing padha sing wis dilayani perusahaan. Cerebras ngandika mitra infrastruktur uga bisa masang arsitektur pamisah padha ing pusat data dhewe.
Logika ekonomi langsung. Panyedhiya inferensi entuk bathi saben token, lan kekuwatan minangka watesan kapasitas. Yen megawatt padha ngasilake kaping lima token, fasilitas padha ngasilake potensial revenue proporsional liyane, kang perusahaan ilustrasi karo Tabel mbandingaken konfigurasi porsi dikumpulake lan disaggregated.
Pengumuman kasebut uga nyengkuyung ramalan panjaluk kanggo mbantah manawa industri butuh saben efisiensi sing bisa dipikolehi. Ngutip Goldman Sachs Research, Cerebras ujar manawa panjaluk inferensi AI dijangkepi tuwuh kira-kira 24 kali lipat saka tingkat 2026 ing taun 2030, dene kapasitas pusat data mung tuwuh udakara 2.2 kali lipat sajrone wektu sing padha. Yen loro proyeksi terus, longkangan antarane apa pangguna pengin mbukak lan apa fasilitas bisa daya dadi kendala sing nemtokake ing pungkasan-2020s AI buildout.
Aplikasi Agensi Nyurung Crunch
Perusahaan kasebut nyatakake lonjakan panjaluk kanggo aplikasi agen kanthi cepet ing taun 2026, jenenge Muse, Copilot, lan Codex minangka conto produk sing mbutuhake inferensi sing interaktif banget supaya pangguna tetep melu. Agen obrolan sing ngirim token tanggapan kanthi token yaiku beban kerja sing kacepetan generasi minangka fitur sing diadhepi pangguna tinimbang metrik mburi.
Cerebras nyedhiyakake peluncuran kanthi kapasitas sing luwih akeh. Perusahaan kasebut nuduhake sistem CS-4 sing bubar diumumake, skala produksi sing dramatis, lan kapasitas pusat data sing direncanakake kira-kira 700 megawatt minangka potongan sing bakal ngidini dheweke lan mitra bisa ngladeni lalu lintas luwih akeh ing taun 2027 lan sabanjure.
Giliran Pragmatis kanggo Skala Wafer
Secara strategis, woro-woro kasebut minangka akomodasi pragmatis saka dominasi GPU. Tinimbang njaluk pelanggan mindhah kabeh pipa inferensi menyang silikon eksotis, Cerebras ngusulake divisi tenaga kerja: supaya GPU nindakake apa sing dioptimalake, lan supaya hardware skala wafer nindakake apa sing paling apik. Kanggo panyedhiya inferensi sing dijepit ing antarane panjaluk sing mundhak lan kendala daya, jarak kasebut bisa ditambahake tanpa ngenteni hardware generasi anyar.
Apa pratelan efisiensi kaping lima bisa ditrapake ing macem-macem arsitektur model lan campuran lalu lintas ing donya nyata mung bakal dadi jelas nalika mitra masang konfigurasi kanthi skala. Nanging arah lelungan jelas ing saindenging industri. Minangka inferensi ngganti latihan minangka beban kerja komputasi sing dominan, saben vendor hardware utama mriksa maneh carane rong tahapan generasi kudu dibagi, didhukung, lan regane.
Cara Dibandhingake Kanthi Pendekatan GPU-Native
Panyedhiya inferensi hyperscale utama wis ngupayakake strategi disaggregasi dhewe, biasane tetep loro tahapan ing kulawarga GPU disetel kanggo saben tujuan. Varian Cerebras khas kanggo nyebrang garis vendor: perusahaan kasebut dikonfirmasi manawa GPU AMD nangani tahap prefill ing konfigurasi produksi, kanthi sistem Cerebras sing tanggung jawab kanggo decode. Heterogenitas kasebut penting kanggo operator, amarga nganggep prefill lan decode minangka komoditas sing bisa dituku kanthi kapisah tinimbang tumpukan terpadu.
Asil diterbitake perusahaan nandheske yen pamisah ngreksa kacepetan generasi tinimbang dagang kanggo efisiensi. Bedane kasebut ngatasi kritik sing wis suwe babagan porsi sing dipisahake: batching prefill kanthi kapisah bisa nambah latensi menyang token pisanan, lan konfigurasi apa wae sing nyepetake loop decode ngrusak rasa interaktif sing didol layanan inferensi premium. Cerebras ngaku susunane ngindhari loro paukuman, sanajan pathokan independen ing macem-macem dawa cepet lan pola lalu lintas bakal dadi tes nyata.
Kanggo para pamaca AI Buzz Wire sing nglacak balapan infrastruktur, pesen saka Cerebras yaiku yen jaman inferensi siji-chip-cocok-kabeh menehi dalan menyang pipa sing dibangun kanthi tujuan - lan perusahaan kasebut pengin duwe setengah decode.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →