Qualcomm wis ngluncurake Cloud AI 100 Ultra, akselerator inferensi pusat data sing nyedhiyakake nganti 870 TOPS kinerja INT8 lan 288 TFLOPS FP16 komputasi nalika mung nggambar 150 watt - bagian sekedhik saka amplop daya GPU sing saiki ndominasi inferensi AI generatif.

Kertu kasebut, sing kadhaptar ing kaca produk pusat data resmi Qualcomm lan rinci babagan jangkoan peluncuran, dirancang khusus kanggo AI generatif lan beban kerja model basa gedhe. Iki ndadekake raksasa chip seluler minangka penantang langsung ing pasar inferensi, ing ngendi panjaluk saya mundhak amarga perusahaan nyebarake agen AI, copilots lan aplikasi sing ditambahake kanthi skala. Kanggo konteks liyane babagan balapan hardware AI, deleng [liputan warta AI] (https://aibuzzwire.news).

Spesifikasi: SRAM First, DRAM Second

Ing jantung Cloud AI 100 Ultra ana 64 inti AI lan 576 MB on-die SRAM. Taruhan Qualcomm yaiku supaya bobot model lan aktivasi tetep cedhak karo unit komputasi - tinimbang nutup saben token menyang memori eksternal - mbayar model adhedhasar trafo, sing urip lan mati ing bandwidth memori.

Kertu kasebut isih nggawa memori 128 GB LPDDR4x kanthi bandwidth 548 GB / s kanggo model sing luwih gedhe lan konteks sing luwih dawa, disambungake liwat PCIe Gen4 kanthi 16 jalur. Kombinasi kasebut - SRAM on-die gedhe plus tarik daya 150W sing sithik - minangka pembeda kertu. GPU pusat data Nvidia biasane saka 300W nganti 700W, lan saben watt penting nalika inferensi ditagih dening token lan daya pusat data minangka sumber daya sing paling ditandingi ing industri.

"Awan AI 100 Ultra minangka solusi inferensi AI sing dioptimalake kanthi kinerja lan biaya," ujare perusahaan ing materi produk, nandheske kemampuan program ing beban kerja wiwit saka visi komputer nganti pangolahan basa alami.

Piranti Lunak: On-Ramp sing Kompatibel karo OpenAI

Hardware wis tau masalah Qualcomm ing pusat data; piranti lunak wis. Perusahaan kasebut ngrampungake karo AI Inference Suite, lapisan piranti lunak sing mbukak API sing kompatibel karo OpenAI kanggo mbangun chatbots, copilots lan agen AI.

Suite ndhukung chatting, generasi gambar, model multimodal lan retrieval-augmented generation (RAG) workflows, lan nyebar liwat Kubernetes utawa wadhah bare-metal. Qualcomm uga ngirim alat manajemen lan administrasi pangguna - tambahan sing ora nyenengake sing asring kurang saka penawaran akselerator mentah, nanging tim IT perusahaan abot banget nalika mindhah beban kerja ing omah.

Permukaan API sing kompatibel karo OpenAI penting kanthi strategis: ngidini para pangembang nunjukake saluran pipa OpenAI sing ana ing hardware Qualcomm kanthi owah-owahan konfigurasi tinimbang nulis ulang, ngedhunake biaya ganti sing wis nglindhungi incumbency ing pasar iki.

Lapangan Rame Kanthi Pemimpin Sing Jelas

Qualcomm mlebu pasar inferensi sing wis dadi medan perang siklus hardware AI. Ndominasi L40S lan H100 Nvidia; AMD MI300X lan Intel Gaudi 3 target beban kerja sing padha; lan silikon khusus saka Groq lan Cerebras wis ngukir relung babagan kacepetan inferensi mentah.

Sisih panjaluk nerangake scramble. Nglayani agen AI lan saluran pipa RAG nambahake jumlah panggilan model sing digawe dening sesi pangguna siji, lan saben telpon kasebut minangka masalah inferensi sing kudu ditanggulangi kanthi biaya paling murah saben token. Hyperscalers tuku rak saka GPUs kapal penggedhe kanggo nangani; perusahaan ing ngisor iki nggoleki hardware sing cocog karo server standar, ing sirkuit listrik standar, tanpa negosiasi ulang kontrak listrik.

Jarak Qualcomm minangka total biaya kepemilikan tinimbang kinerja puncak. Kanggo perusahaan sing nggawe inferensi ing skala, konsumsi daya langsung menyang biaya operasi, lan kertu sing menehi throughput sing kompetitif ing 150W nyuda ekonomi GPU brute-force. Latihan tetep domain Nvidia - Ultra ora pratelan ing - nanging inferensi ngendi ekonomi unit industri bener mutusaké, lan iku workload paling Enterprises bakal mbukak piyambak, apa ing kluster ing panggonan utawa kandhang colocation.

Ekosistem piranti lunak tetep perang sing dhuwur. Platform CUDA Nvidia isih dadi pilihan standar kanggo umume pangembang AI, lan nalika API sing kompatibel karo OpenAI ngedhunake alangan kanggo mlebu, dheweke ora ngilangi rework sing dibutuhake kanggo pipa inferensi khusus.

Ngendi Iku Cocog ing Lineup Qualcomm

Ultra lenggah ing ndhuwur baris inferensi Qualcomm, sing uga kalebu Cloud AI 80 Ultra (nganti 618 TOPS saka INT8 kanthi 576 MB SRAM sing padha), Cloud AI 100 Pro, lan Cloud AI 100 Standard, sing ngarahake panyebaran pinggiran lan skala cilik kanthi amplop daya 75W.

Peluncuran kasebut nggambarake peta dalan pusat data Dragonfly Qualcomm generasi saiki, sing wis dikembangake perusahaan kanggo beban kerja AI skala awan - lan saiki menehi argumen Qualcomm kanggo perusahaan sing pengin nggawe inferensi AI generatif ing lokasi tinimbang ing awan umum, apa amarga biaya, latensi utawa alasan tata kelola data.

Bet, ing Siji Ukara

Qualcomm wagering yen AI pindhah saka sawetara hyperscaler menyang ewu perusahaan, kertu inferensi sing menang dudu sing paling cepet nanging sing paling efisien. Cloud AI 100 Ultra minangka argumen ing silikon; apa pangembang tindakake watt tetep pitakonan mbukak.

---

Tetep Ahead of AI

Entuk warta, analisis, lan terobosan AI paling anyar - kabeh ing sak panggonan.

Waca liyane AI warta →