Cerebras CS-4 Diluncurkan Dengan WSE-3 Turbo: Inferensi AI Skala Rak pada Kecepatan GPU 30x

Cerebras telah meluncurkan CS-4, sistem inferensi AI skala rak yang dibangun dengan prosesor skala wafer WSE-3 Turbo barunya, mengklaim bahwa mesin tersebut memberikan inferensi hingga 30 kali lebih cepat daripada sistem berbasis GPU karena perusahaan memposisikan dirinya sebagai alternatif kecepatan untuk kerajaan pusat data Nvidia.

Peluncuran tersebut, yang diumumkan pada hari Selasa dan dirinci di seluruh halaman produk perusahaan dan gelombang liputan dari Reuters, Bloomberg dan The Register, menandai penyegaran perangkat keras Cerebras yang paling signifikan sejak go public – dan momen penting bagi perusahaan yang sahamnya mengalami kesulitan sejak IPO. Investor tampaknya menaruh perhatian: saham Cerebras (CBRS) melonjak karena berita tersebut, dan Investor's Business Daily mengutip komentar CEO bahwa pasar inferensi AI "berkembang sangat cepat."

Bagi pembaca yang menelusuri percepatan dalam membuat model AI merespons lebih cepat, peluncuran CS-4 adalah salah satu kisah perangkat keras yang paling penting pada kuartal ini, dan hal ini terjadi di tengah pergeseran yang lebih luas dalam cakupan industri AI yang terus membentuk kembali lanskap komputasi.

Apa yang Ada di Dalam CS-4

Komponen utama adalah WSE-3 Turbo, versi upgrade dari Wafer Scale Engine berukuran piring makan Cerebras. Menurut pendalaman teknis The Register, WSE-3T bukanlah silikon baru – ia mempertahankan proses TSMC 5nm yang sama, area cetakan 46.225 milimeter persegi, 4 triliun transistor, 900.000 inti, dan SRAM on-wafer 44 GB seperti WSE-3 yang berusia dua tahun.

Sebaliknya, Cerebras mencapai kinerja dua kali lipat dengan mendorong chip yang ada lebih keras. WSE-3T menggandakan komputasi sparse FP16 menjadi 250 petaFLOPS, menggandakan kinerja FP16 padat menjadi sekitar 25 petaFLOPS, menggandakan bandwidth memori menjadi 43,2 petabyte per detik, dan menggandakan bandwidth I/O menjadi 2,4 terabit per detik. Register memperkirakan perusahaan sekarang memiliki clock silikon sekitar 2,8 GHz, naik dari sekitar 1,4 GHz pada generasi sebelumnya.

Caranya, menurut Cerebras, adalah sistem pengiriman daya yang didesain ulang dan ditempatkan hanya 0,5 milimeter dari prosesor – kira-kira 100 kali lebih dekat dibandingkan ~50 milimeter pada umumnya papan GPU konvensional. Kedekatan tersebut hampir menghilangkan hilangnya daya pada tingkat board dan memungkinkan daya dua kali lebih besar untuk mencapai wafer, sehingga memungkinkan frekuensi operasi yang lebih tinggi untuk menghasilkan token yang lebih cepat.

Arsitektur Rak Nexus

Di luar chip itu sendiri, CS-4 memperkenalkan apa yang disebut Cerebras sebagai Nexus Platform Architecture, desain skala rak pertamanya dan jawaban langsung terhadap sistem rak NVL72 milik Nvidia dan Helios milik AMD. Setiap CS-4 dapat membawa hingga tiga prosesor WSE-3T yang ditempatkan dalam "Wafer-Scale Backpacks" mandiri — paket 3D yang melipat wafer, konversi daya, pendinginan cairan langsung, I/O berkecepatan tinggi, dan kontrol elektronik menjadi satu rakitan dengan komponen 50% lebih sedikit.

Desain modular memisahkan lapisan daya, pendinginan, dan jaringan yang stabil dari komputasi. Cerebras PowerRack dapat dipasang dan memenuhi syarat fasilitas sebelum komputasi apa pun tiba, dan ransel kemudian dimasukkan ke tempatnya — mengurangi waktu penerapan dari hari ke jam, menurut perusahaan.

Konsumsi daya sangat besar. Register memperkirakan sekitar 46 kW per ransel dan total penggunaan sistem sebesar 120 hingga 140 kW — angka yang menarik namun terlihat konservatif jika dibandingkan dengan sistem rak 240 hingga 250 kW yang diharapkan akan dikirimkan oleh AMD dan Nvidia pada akhir tahun ini.

Membunuh Saklar

Mungkin pilihan yang paling menarik secara teknis adalah interkoneksi. Daripada merutekan lalu lintas wafer-ke-wafer melalui switch – pendekatan yang diadopsi AWS untuk akselerator Trainium3 – Cerebras menyambungkan chipnya ke topologi torus 2D di mana wafer tetangga berkomunikasi langsung satu sama lain. Desainnya memotong latensi wafer-ke-wafer dari lima mikrodetik menjadi hanya dua, dan Cerebras mengatakan mesh tersebut dapat mendukung model hingga 50 triliun parameter, melebihi apa pun yang ada saat ini.

Hasil kecepatannya luar biasa. Pada satu sistem CS-4, perusahaan pembanding Analisis Buatan mengukur hingga 4.400 token per detik per pengguna di gpt-oss-120b — kira-kira 12 kali lipat ~350 token per detik dari layanan inferensi berbasis GPU tercepat yang tersedia saat ini. Cerebras juga mengklaim sistemnya menopang lebih dari 1,000 token per detik pada model yang melebihi 10 triliun parameter.

Strategi Kemitraan Terpilah

Khususnya, Cerebras tidak lagi mencoba menjalankan seluruh jalur inferensi pada silikonnya sendiri. Perusahaan ini telah bermitra dengan AWS dan AMD untuk memindahkan tahap inferensi pemrosesan cepat yang intensif komputasi ke masing-masing GPU Trainium XPU dan Instinct, sehingga mesin skala wafernya dapat menangani fase dekode sensitif latensi di mana cadangan SRAM mereka yang sangat besar bersinar.

Peluncuran CS-4 juga memperluas kolaborasi Cerebras dengan OpenAI. Yahoo Finance melaporkan peluncuran tersebut bersamaan dengan kemitraan OpenAI dan AMD baru yang bertujuan untuk mempercepat inferensi AI — memanfaatkan mode Ultrafast yang diperkenalkan perusahaan pada awal Agustus, yang menghadirkan GPT-5.6 Sol kepada pengguna hingga 750 token per detik.

Peringatan di Balik Nomor Judul

Analis industri mendesak agar berhati-hati terhadap angka pemasaran. Register mencatat bahwa judul Cerebras 250 petaFLOPS bergantung pada ketersebaran, yang umumnya tidak menguntungkan inferensi model bahasa besar, dan bahwa angka bandwidth memori puncak sebagian besar bersifat teoretis karena WSE-3 tidak memiliki komputasi untuk memenuhi SRAM-nya sendiri. Publikasi tersebut juga mempertanyakan mengapa Cerebras menggandakan kinerja daripada meningkatkan kapasitas SRAM, yang belum tumbuh secara berarti sejak WSE-2 diluncurkan lima tahun lalu – sebuah pilihan yang aneh di era inferensi terpilah di mana akselerator dekode mendapat manfaat paling banyak dari memori.

Meski begitu, peluang pasar masih nyata. Karena chatbot dan agen AI menuntut waktu respons yang semakin cepat, kecepatan inferensi telah menjadi pembeda kompetitif yang sesungguhnya, dan Cerebras kini telah menunjukkan bahwa mereka dapat menerapkan teknologi skala wafer yang tidak konvensional dalam irama komersial.

Pengiriman CS-4 pertama dimulai pada kuartal ini, dengan sistem pertama diharapkan online sebelum akhir September. Apakah hal tersebut cukup untuk melemahkan dominasi Nvidia masih harus dilihat – namun untuk pertama kalinya setelah sekian lama, inferensi AI tercepat di industri ini memiliki alamat baru.

Tetap Terdepan dalam AI

Peluncuran perangkat keras seperti CS-4 menggerakkan pasar dan mendefinisikan kembali apa yang dapat dilakukan sistem AI. Baca berita AI selengkapnya untuk mengikuti setiap perkembangan.

Jelajahi liputan AI terbaru →