Cerebras Systems mengatakan telah memasukkan inferensi terpilah ke dalam produksi, membagi beban kerja inferensi AI antara GPU konvensional dan prosesor skala wafer dalam konfigurasi yang diklaim perusahaan menghasilkan token lima kali lebih banyak per megawatt tanpa mengorbankan kecepatan pembangkitan.

Pengumuman tersebut, yang dipublikasikan di blog perusahaan pada tanggal 17 November 2026, menandai perubahan penting bagi perusahaan yang telah menghabiskan waktu bertahun-tahun memposisikan Wafer Scale Engine sebagai alternatif inferensi berbasis GPU, bukan sebagai pelengkap. Sekarang, Cerebras mengatakan GPU menangani tahap pemrosesan cepat sementara sistemnya sendiri menangani tahap pembuatan token. For more context on this story, see our ongoing AI industry coverage.

Mengapa Membagi Inferensi menjadi Dua?

Inferensi terjadi dalam dua tahap. Pra-pengisian memproses permintaan pengguna dan menghasilkan status model perantara. Dekode kemudian menggunakan status tersebut untuk menghasilkan token keluaran, satu per satu, dalam perulangan autoregresif yang berulang untuk setiap kata respons.

Kedua tahap tersebut memiliki profil komputasi yang sangat berbeda. Pra-pengisian merupakan proses komputasi yang berat dan paralel, yang merupakan keunggulan GPU. Decode terikat pada bandwidth memori dan berurutan, yang menurut Cerebras adalah arsitektur skala wafer yang memiliki keunggulan, karena seluruh model dapat ditempatkan pada satu bagian silikon tanpa komunikasi antar-chip yang memperlambat cluster GPU selama pembuatan.

Perusahaan telah bereksperimen dengan cara lain untuk membagi beban kerja. Dalam postingan blognya, Cerebras mencantumkan rancangan skema target, di mana model kecil mengusulkan token dan model yang lebih besar memverifikasinya, dan pemisahan perhatian-FFN di antara alternatif yang dipertimbangkan. Namun mereka berpendapat bahwa memisahkan prefill dari decode secara unik cocok untuk aplikasi yang sangat interaktif, karena tahap decode menjaga kecepatan generasi ultracepat khas Cerebras tetap utuh.

Angka-angka di Balik Klaim

Menurut pengumuman tersebut, konfigurasi terpilah sekarang tersedia di Cerebras Inference Cloud dan memberikan token lima kali lebih banyak per megawatt pada kecepatan generasi yang sama dengan yang telah dilayani oleh perusahaan. Cerebras mengatakan mitra infrastruktur juga dapat menerapkan arsitektur terpisah yang sama di pusat data mereka sendiri.

Logika ekonominya jelas. Penyedia inferensi memperoleh pendapatan per token, dan daya merupakan batasan yang mengikat kapasitas. Jika megawatt yang sama menghasilkan lima kali lipat token, fasilitas yang sama menghasilkan potensi pendapatan yang lebih besar secara proporsional, yang diilustrasikan oleh perusahaan dengan tabel yang membandingkan konfigurasi penyajian gabungan dan terpilah.

Pengumuman ini juga bersandar pada perkiraan permintaan untuk menyatakan bahwa industri memerlukan setiap peningkatan efisiensi yang dapat diperoleh. Mengutip Goldman Sachs Research, Cerebras mengatakan permintaan inferensi AI diproyeksikan tumbuh sekitar 24 kali lipat dari tingkat tahun 2026 pada tahun 2030, sementara kapasitas pusat data hanya tumbuh sekitar 2,2 kali lipat pada periode yang sama. Jika kedua proyeksi tersebut berhasil, kesenjangan antara apa yang ingin dijalankan oleh pengguna dan fasilitas apa yang dapat diberi daya menjadi kendala utama dalam pengembangan AI pada akhir tahun 2020-an.

Aplikasi Agentik Mendorong Krisis

Perusahaan mengaitkan lonjakan permintaan ini dengan penskalaan aplikasi agen yang pesat pada tahun 2026, dan menyebut Muse, Copilot, dan Codex sebagai contoh produk yang memerlukan inferensi sangat interaktif agar pengguna tetap terlibat. Agen percakapan yang mengalirkan respons token demi token justru merupakan beban kerja di mana kecepatan pembuatan adalah fitur yang dilihat pengguna, bukan metrik back-end.

Cerebras menempatkan peluncuran tersebut dalam peningkatan kapasitas yang lebih luas. Perusahaan menunjuk pada sistem CS-4 yang diumumkan baru-baru ini, peningkatan produksi manufaktur yang signifikan, dan rencana kapasitas pusat data sekitar 700 megawatt sebagai bagian yang memungkinkan perusahaan dan mitranya melayani lebih banyak lalu lintas secara signifikan pada tahun 2027 dan seterusnya.

Perubahan Pragmatis untuk Skala Wafer

Secara strategis, pengumuman ini dibaca sebagai akomodasi pragmatis atas dominasi GPU. Daripada meminta pelanggan untuk memindahkan seluruh saluran inferensi ke silikon eksotik, Cerebras mengusulkan pembagian kerja: biarkan GPU melakukan apa yang dioptimalkan, dan biarkan perangkat keras berskala wafer melakukan yang terbaik. Bagi penyedia inferensi yang terjepit di antara lonjakan permintaan dan keterbatasan daya, tantangannya adalah kapasitas yang dapat mereka tambahkan tanpa menunggu perangkat keras generasi baru.

Apakah klaim efisiensi lima kali lipat dapat diterapkan pada beragam model arsitektur dan bauran lalu lintas di dunia nyata hanya akan menjadi jelas ketika mitra menerapkan konfigurasi dalam skala besar. Namun arah perjalanannya jelas di seluruh industri. Karena inferensi menggantikan pelatihan sebagai beban kerja komputasi yang dominan, setiap vendor perangkat keras besar sedang mempertimbangkan kembali bagaimana kedua tahap pembangkitan tersebut harus dibagi, diberi daya, dan diberi harga.

Perbandingannya dengan Pendekatan GPU-Native

Penyedia inferensi hyperscale besar telah menerapkan strategi disagregasi mereka sendiri, biasanya menjaga kedua tahapan pada rangkaian GPU tetap disesuaikan untuk setiap tujuan. Varian Cerebras memiliki ciri khas dalam melintasi lini vendor: perusahaan mengonfirmasi bahwa GPU AMD menangani tahap pra-pengisian dalam konfigurasi produksinya, dengan sistem Cerebras bertanggung jawab untuk dekode. Heterogenitas ini penting bagi operator karena menganggap prefill dan decode sebagai komoditas yang dapat diperoleh secara terpisah, bukan sebagai satu tumpukan yang terintegrasi.

Hasil yang dipublikasikan perusahaan ini menekankan bahwa pemisahan tersebut menjaga kecepatan pembangkitan dibandingkan memperdagangkannya demi efisiensi. Perbedaan tersebut menjawab kritik lama terhadap penyajian terpilah: pengelompokan pra-pengisian secara terpisah dapat menambah latensi pada token pertama, dan konfigurasi apa pun yang memperlambat loop dekode akan merusak nuansa interaktif yang dijual oleh layanan inferensi premium. Cerebras mengklaim pengaturannya menghindari kedua penalti tersebut, meskipun tolok ukur independen di berbagai jalur cepat dan pola lalu lintas akan menjadi ujian sesungguhnya.

Bagi pembaca AI Buzz Wire yang memantau perkembangan infrastruktur, pesan dari Cerebras adalah bahwa era inferensi satu chip untuk semua telah memberi jalan bagi jaringan pipa yang dibuat khusus — dan bahwa perusahaan bermaksud untuk memiliki separuh dari saluran tersebut yang telah didekodekan.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →