Cerebras Systems berkata ia telah meletakkan inferens terpisah ke dalam pengeluaran, memisahkan beban kerja inferens AI antara GPU konvensional dan pemproses skala wafernya dalam konfigurasi yang didakwa syarikat memberikan lima kali lebih banyak token setiap megawatt tanpa mengorbankan kelajuan penjanaan.

Pengumuman itu, yang diterbitkan di blog syarikat pada 17 November 2026, menandakan perubahan ketara bagi syarikat yang telah menghabiskan masa bertahun-tahun meletakkan Enjin Skala Wafernya sebagai alternatif kepada inferens berasaskan GPU dan bukannya pelengkap kepadanya. Kini, Cerebras berkata GPU mengendalikan peringkat pemprosesan segera manakala sistemnya sendiri mengendalikan peringkat penjanaan token. For more context on this story, see our ongoing more AI stories.

Mengapa Bahagikan Inferens kepada Dua?

Inferens berlaku dalam dua peringkat. Praisi memproses gesaan pengguna dan menghasilkan keadaan model pertengahan. Nyahkod kemudian menggunakan keadaan itu untuk menjana token output, satu demi satu, dalam gelung autoregresif yang berulang untuk setiap perkataan respons.

Kedua-dua peringkat mempunyai profil pengiraan yang sangat berbeza. Praisi adalah berat pengiraan dan selari, di mana GPU cemerlang. Nyahkod adalah terikat lebar jalur memori dan berjujukan, di mana Cerebras berpendapat seni bina skala wafernya memegang kelebihan, memandangkan keseluruhan model boleh diletakkan pada sekeping silikon tanpa komunikasi antara cip yang memperlahankan kelompok GPU semasa penjanaan.

Syarikat itu telah bereksperimen dengan cara lain untuk membahagikan beban kerja. Dalam catatan blognya, Cerebras menyenaraikan skim sasaran draf, di mana model kecil mencadangkan token dan yang lebih besar mengesahkannya, dan pemisahan perhatian-FFN antara alternatif yang dipertimbangkannya. Tetapi ia berpendapat bahawa pengasingan praisi daripada penyahkod adalah sesuai secara unik untuk aplikasi yang sangat interaktif, kerana peringkat penyahkodan mengekalkan kelajuan penjanaan ultrafast tandatangan Cerebras.

Nombor Di Sebalik Tuntutan

Menurut pengumuman itu, konfigurasi terpisah kini disiarkan dalam Cerebras Inference Cloud dan menyampaikan lima kali lebih banyak token setiap megawatt pada kelajuan generasi yang sama yang telah disediakan oleh syarikat itu. Cerebras berkata rakan kongsi infrastruktur juga boleh menggunakan seni bina split yang sama dalam pusat data mereka sendiri.

Logik ekonomi adalah mudah. Penyedia inferens memperoleh hasil setiap token, dan kuasa ialah kekangan yang mengikat pada kapasiti. Jika megawatt yang sama menghasilkan lima kali ganda token, kemudahan yang sama menjana lebih banyak potensi hasil secara berkadar, yang digambarkan oleh syarikat dengan jadual yang membandingkan konfigurasi penyajian teragregat dan diagregat.

Pengumuman itu juga bersandar pada ramalan permintaan untuk mempertikaikan industri memerlukan setiap keuntungan kecekapan yang boleh diperolehinya. Memetik Penyelidikan Goldman Sachs, Cerebras berkata permintaan inferens AI diunjurkan berkembang kira-kira 24 kali ganda daripada tahap 2026 menjelang 2030, manakala kapasiti pusat data berkembang hanya kira-kira 2.2 kali ganda dalam tempoh yang sama. Jika kedua-dua unjuran bertahan, jurang antara perkara yang pengguna mahu jalankan dan kemudahan apa yang boleh dikuasakan menjadi kekangan yang menentukan pembinaan AI lewat 2020-an.

Aplikasi Agentik Mendorong Kegawatan

Syarikat itu mengaitkan lonjakan permintaan kepada aplikasi agen yang berskala pesat pada tahun 2026, menamakan Muse, Copilot dan Codex sebagai contoh produk yang memerlukan inferens yang sangat interaktif untuk memastikan pengguna sentiasa terlibat. Ejen perbualan yang menstrim respons token mengikut token ialah beban kerja yang mana kelajuan penjanaan ialah ciri yang dihadapi pengguna dan bukannya metrik bahagian belakang.

Cerebras meletakkan pelancaran dalam tolakan kapasiti yang lebih luas. Syarikat itu menunjukkan sistem CS-4 yang diumumkan baru-baru ini, penskalaan dramatik pengeluaran pengeluarannya, dan kapasiti pusat data yang dirancang sebanyak kira-kira 700 megawatt sebagai bahagian yang akan membolehkannya dan rakan kongsinya melayani lebih banyak trafik pada tahun 2027 dan seterusnya.

Giliran Pragmatik untuk Skala Wafer

Secara strategik, pengumuman itu dibaca sebagai kemudahan pragmatik penguasaan GPU. Daripada meminta pelanggan untuk memindahkan keseluruhan saluran paip inferens ke silikon eksotik, Cerebras mencadangkan pembahagian kerja: biarkan GPU melakukan perkara yang dioptimumkan untuk mereka, dan biarkan perkakasan skala wafer melakukan yang terbaik. Bagi penyedia inferens yang tersepit antara permintaan yang melonjak dan kekangan kuasa, nada adalah kapasiti yang boleh mereka tambah tanpa menunggu perkakasan generasi baharu.

Sama ada tuntutan kecekapan lima kali ganda bertahan dalam pelbagai seni bina model dan campuran trafik dunia sebenar hanya akan menjadi jelas apabila rakan kongsi menggunakan konfigurasi pada skala. Tetapi hala tuju perjalanan adalah jelas di seluruh industri. Memandangkan inferens menggantikan latihan sebagai beban kerja pengiraan yang dominan, setiap vendor perkakasan utama sedang mengkaji semula cara kedua-dua peringkat penjanaan harus dibahagikan, dikuasakan dan diberi harga.

Bagaimana Ia Membandingkan Dengan Pendekatan Asli GPU

Penyedia inferens hiperskala utama telah menjalankan strategi pengasingan mereka sendiri, biasanya memastikan kedua-dua peringkat pada keluarga GPU ditala untuk setiap tujuan. Varian Cerebras adalah tersendiri dalam melintasi barisan vendor: syarikat mengesahkan bahawa GPU AMD mengendalikan peringkat praisi dalam konfigurasi pengeluarannya, dengan sistem Cerebras bertanggungjawab untuk penyahkod. Kepelbagaian itu penting bagi pengendali, kerana ia menganggap praisi dan nyahkod sebagai komoditi yang boleh diperoleh secara berasingan dan bukannya satu timbunan bersepadu.

Hasil terbitan syarikat menekankan bahawa perpecahan mengekalkan kelajuan penjanaan daripada memperdagangkannya untuk kecekapan. Pembezaan itu menangani kritikan yang telah lama berlarutan terhadap penyajian yang diasingkan: menyusun praisi secara berasingan boleh menambahkan kependaman pada token pertama dan sebarang konfigurasi yang melambatkan gelung penyahkod menjejaskan rasa interaktif yang dijual oleh perkhidmatan inferens premium. Cerebras mendakwa susunannya mengelakkan kedua-dua penalti, walaupun penanda aras bebas merentas pelbagai panjang segera dan corak trafik akan menjadi ujian sebenar.

Bagi pembaca AI Buzz Wire yang menjejaki perlumbaan infrastruktur, mesej daripada Cerebras ialah era inferens satu cip-cocok-semua memberi laluan kepada saluran paip yang dibina khas — dan syarikat itu berhasrat untuk memiliki separuh daripadanya.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →