Intel membuka konferensi Hot Chips tahun ini dengan mendalami Crescent Island, GPU pusat data yang dipertaruhkan untuk fase beban kerja AI berikutnya: inferensi agen. Disampaikan oleh Chief Enterprise AI Systems Architect Sumit Mohan dan Intel Fellow Hong Jiang, pembicaraan tersebut berpusat pada tiga metrik yang menurut perusahaan menentukan era agen - token per watt, kapasitas memori yang besar, dan tumpukan perangkat lunak terbuka.
Waktunya penting. Nvidia menggunakan konferensi yang sama untuk merinci sistem skala rak Vera Rubin NVL72, dan setiap vendor akselerator di Hot Chips 2026 kini mengutamakan efisiensi daripada kinerja puncak mentah. Jawaban Intel adalah bagian yang menukar teknologi memori yang digunakan oleh GPU AI mainstream dengan sesuatu yang lebih murah per gigabyte, dan hal ini menghasilkan angka-angka utama yang mencolok. For more context on this story, see our ongoing more AI stories.
Kartu PCIe 480GB dengan daya 350 Watt
Crescent Island adalah GPU PCIe berpendingin udara 350 watt. Kartu bermerek Intel dikirimkan dengan memori LPDDR5X 160 GB, namun desainnya memungkinkan mitra ODM untuk membuat varian dengan memori internal hingga 480 GB - kira-kira tiga kali lipat kapasitas kartu akselerator kelas atas pada umumnya, dan cukup untuk menyimpan cache KV yang sangat besar untuk beban kerja agen konteks panjang dan multi-sesi. Desainnya mencakup tipe data dari FP4 dan MXFP4 hingga FP64.
Pilihan memori adalah keputusan strategis dalam produk. LPDDR5X memperdagangkan bandwidth untuk kapasitas dan biaya, yang sesuai dengan profil beban kerja inferensi di mana jendela konteks yang sangat besar dan loop panggilan alat menghabiskan kapasitas memori lebih banyak daripada komputasi mentah. Intel membingkai seluruh desain berdasarkan "token per watt" - memberikan output per unit energi yang lebih berguna daripada memenangkan perbandingan FLOPS puncak.
Silikon Xe3P: 32 Core, 256 Mesin XMX
Di balik terpalnya, Crescent Island adalah arsitektur Xe3P Intel, dan Intel menyajikannya sebagai lompatan generasi atas generasi Xe2 berbasis Battlemage. Jika Xe2 menawarkan 20 inti Xe dan susunan XMX sistolik 4 kedalaman, Crescent Island menghadirkan 32 inti Xe dan susunan sistolik 16 kedalaman, sehingga menghasilkan total 256 mesin XMX.
Ekstensi Matriks Xe generasi ketiga menambahkan desain matriks Xe tiga arah yang diperluas dengan penerbitan bersama presisi FP4 dan dukungan FP64. Setiap inti Xe membawa file register umum sebesar 1 MB dan cache L1 sebesar 512 KB, dengan L2 terpadu sebesar 32 MB yang dibagikan ke seluruh perangkat. Mesin media dengan empat decoder dan empat encoder berada di sampingnya, dan seluruh SoC terhubung melalui PCIe Gen5 x16 dengan dukungan untuk peningkatan skala di seluruh switch fabric terbuka. Intel mencantumkan daya idle aktif sebesar 50 watt atau kurang di status G0 dan sekitar 10 watt di status G8 berdaya rendah, yang dicapai melalui domain daya terdistribusi, router jaringan-on-chip berbasis paket dengan gerbang jam agresif, dan rel DVFS independen untuk grafis dan media.
Fitur RAS yang Dipinjam dari Server Playbook
Untuk bagian pusat data, rekayasa keandalan mendapat waktu tahapan yang sama banyaknya dengan throughput - sebuah tema yang juga digunakan Nvidia bersama Vera Rubin. Crescent Island membawa ECC dan paritas di seluruh struktur memori utama, pemeriksaan kesalahan pada setiap hop dari struktur interkoneksi internal, offline halaman dinamis, perbaikan keras pasca-paket, dan Pelaporan Kesalahan Tingkat Lanjut PCI Express. Intel mengatakan kombinasi ini mengurangi korupsi data diam-diam, mode kegagalan yang paling penting untuk inferensi jangka panjang tanpa pengawasan.
Intel juga menempatkan komponen tersebut dalam portofolio yang mencakup GPU stasiun kerja Arc Pro hingga RDU SambaNova SN50 yang diperolehnya, dengan Crescent Island sebagai pusat data perusahaan di posisi teratas. Perusahaan ini menunjukkan silsilah peta jalan yang telah berjalan selama lebih dari enam tahun, menjadikan GPU sebagai desain generasi ketiga yang matang dan bukan percobaan pertama. Kartu ini pertama kali diluncurkan di Computex pada bulan Juni; Hot Chips menghadirkan detail arsitektur di baliknya.
Mengapa Inferensi Agentik Menyukai Desain Ini
Argumen beban kerja adalah bagian paling menarik dari presentasi Intel. AI Agentik - model yang menyambungkan panggilan alat, menjaga konteks panjang tetap terbuka, dan berkoordinasi antara CPU dan GPU - mengenakan pajak latensi, kapasitas memori, dan throughput sistem secara bersamaan, bukan profil throughput batch dari penyajian chatbot. Kapasitas cache KV untuk konteks panjang dan sesi bersamaan domain terkompresi dibangun ke dalam desain SoC secara eksplisit.
Pembingkaian itu juga menjelaskan taruhan LPDDR5X. Jika gelombang komputasi AI berikutnya adalah agen yang haus memori dibandingkan menjalankan pelatihan, kartu 480 GB dengan daya 350 watt adalah alternatif yang kredibel untuk suku cadang premium berbasis HBM - asalkan tumpukan perangkat lunak dapat memenuhinya. Penekanan Intel pada open stack dan open switch fabric ditujukan untuk pembeli yang waspada terhadap penguncian platform terintegrasi Nvidia.
Crescent Island tidak akan menggantikan akselerator pelatihan yang mendominasi berita utama AI, dan Intel tidak mengungkapkan harga atau ketersediaan pada konferensi tersebut. Namun sebagai pernyataan tentang arah inferensi menurut pendapat Intel - memori yang besar, kekuatan yang ramping, fabric yang terbuka - ini adalah salah satu kisah arsitektur yang lebih jelas dari Hot Chips tahun ini.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
