Nvidia ngandhani sawetara pelanggan paling gedhe manawa rega server sing ngemot chip AI bakal mundhak luwih saka 15 persen ing sistem sing dikirim wiwit awal 2027, miturut Bloomberg - kenaikan rega utama nomer loro ing sangisore setahun, dilapisi ing ndhuwur kenaikan kira-kira 30 persen ing meh kabeh lini produk ing wulan Juli.
Bebaya, disampekno liwat manufaktur server sing ngumpulake sistem kanggo operator pusat data gedhe, ndharat ing wayahe alus kanggo industri AI: Enterprises sing Gulat karo biaya mbangun infrastruktur massive, lan pasar memori - driver nyatakake saka Tambah - ora nuduhake tandha cooling. Nvidia dijadwalake nglaporake asil saben wulan ing 26 Agustus, ing ngendi analis ngarepake rincian anyar babagan permintaan, pasokan, lan biaya. For more context on this story, see our ongoing breaking AI news.
Sistem sing kena pengaruh
Miturut laporan kasebut, kenaikan kasebut bakal ditrapake kanggo server sing dibangun ing sekitar platform Grace Blackwell unggulan Nvidia lan generasi Vera Rubin sing bakal teka. Kenaikan ora bakal seragam: ukuran pangaturan gumantung saka generasi silikon Nvidia sing melu lan jumlah lan konfigurasi memori ing saben sistem.
Produsen server sing nglayani perusahaan teknologi utama - kalebu Microsoft, Google, lan Oracle - wis dilaporake wiwit ngandhani pelanggan babagan owah-owahan rega sing bakal teka kanggo pengiriman sistem ing awal 2027.
Memori iku panyebabe
Pembalap utama yaiku biaya memori sing mundhak. Sistem AI kanthi kinerja dhuwur mbutuhake memori bandwidth dhuwur sing akeh banget, lan panjaluk saka ekspansi pusat data wis ngirim rega kanggo pendakian HBM lan LPDDR5. Produsen memori Samsung Electronics, SK Hynix, lan Teknologi Micron kabeh ngadhepi panjaluk sing kuat amarga kapasitas semikonduktor tambah akeh menyang memori bandwidth dhuwur lan produk komputasi canggih liyane.
Gaurav Gupta, wakil presiden lan analis ing Gartner, ujar manawa kenaikan kasebut nggambarake tekanan ing kabeh rantai pasokan AI, ora mung RAM. "Rega memori mundhak, utamane HBM lan LPDDR5, nanging ana aspek liyane, kayata wafer pengecoran sing paling canggih, kemasan canggih, lan kekurangan komponen liyane," ujare marang CIO.com, lan nambahake manawa masalah kasebut ngasilake wektu timbal sing luwih dawa, "sing biasane nerjemahake rega sing luwih dhuwur."
Lan dheweke ora ngarepake relief. "Ing lingkungan saiki sing dikarepake lan pasokan sing winates, kita ngarepake kahanan iki bakal terus nganti pertengahan," ujare Gupta - tegese biaya sing luwih dhuwur kanggo organisasi sing nggunakake server dhewe lan kanggo sing nyewa komputasi ing awan.
# Pilihan sithik kanggo para panuku
Kanggo CIOs, kalkulus iku unappealing. Konsultan lan analis ujar manawa perusahaan ora duwe pilihan nanging nampa manawa rega infrastruktur AI bakal terus mundhak, lan ngalih panyedhiya - sanajan bisa - ora bakal nolak kenaikan kasebut, amarga biaya memori lan komponen mengaruhi kabeh pasar.
Scott Bickley, kanca penasehat ing Info-Tech Research Group, ujar manawa Nvidia bener-bener nyerep bagean saka pukulan kasebut. Petungan kasebut nuduhake manawa perusahaan bakal mangan sawetara biaya sing mundhak lan mung menehi bagian sekedhik menyang pelanggan paling gedhe. Nanging dheweke kethul babagan para panuku pengaruh: "Biaya beban kerja mudhun saben token nalika biaya hardware lan infrastruktur sing ndasari mundhak," ujare. "Yen sampeyan langsung mbangun kluster dhewe, iki minangka uplift otomatis menyang solusi sing wis larang banget. Yen sampeyan tuku hardware dhewe, sampeyan kudu nyedhot. Sampeyan ora bakal rembugan babagan iki."
Ana siji lapisan perak Bickley nuding: rega per-token kanggo model AI katon mudhun, sing menehi panuku cara kanggo nyuda inflasi hardware kanthi ngrancang beban kerja sing kurang gumantung ing kapasitas memori mentah.
Squeezing liyane saka apa sing wis duwe
Strategi kasebut - entuk jarak tempuh luwih saka hardware sing ana - ing ngendi sawetara analis gabung. Bickley nunjukake teknik kayata rute model, kompresi, lan pangolahan batch minangka cara kanggo ngunggahake panggunaan kluster sing wis ana ing layanan.
Flavio Villanustre, CISO kanggo LexisNexis Risk Solutions Group, sarujuk manawa tekanan kasebut minangka masalah pasokan lan panjaluk sing kudu ditindakake nalika produksi memori mundhak kanggo nyukupi permintaan sing didorong AI - nanging dheweke ora weruh kedadeyan kasebut ing sawetara wulan sabanjure. Ing sawetoro wektu, dheweke nyathet, sawetara vendor model AI ngganti model supaya bisa mlaku kanthi luwih apik ing lingkungan sing keterbatasan memori. Dheweke nuding menyang Gemma E4B Google lan model sing padha, sing nggunakake pendekatan bertingkat hirarkis sing mung narik bagean sing dibutuhake saka model menyang memori tinimbang nyekel kabeh model ing RAM.
Mike Wilkes, perusahaan CISO ing Aikido Security, ujar manawa kenaikan rega bisa dadi apik yen meksa arsitektur sing luwih disiplin. Perusahaan wis ngentekake sawetara taun kepungkur kanggo nambani token model perbatasan minangka "utilitas elastis tanpa wates," ujare - nuntun beban kerja menyang model paling gedhe, preduli apa tugas kasebut mbutuhake pertimbangan tingkat perbatasan. Arsitèktur sing tepat saya tambah hibrida: nylametake kira-kira 10 persen konsumsi kanggo model perbatasan kanggo masalah sing pancene mbutuhake, nalika nyurung klasifikasi, ekstraksi, ringkesan, lan tumindak agen rutin menyang model basa cilik lan model bobot mbukak ing infrastruktur sing dikontrol perusahaan.
"Iki menehi pengaruh CIO marang rega gouging utawa setelan rega sepihak," ujare Wilkes.
Sinyal inflasi kanggo ekonomi AI
Peningkatan kasebut uga minangka sinyal babagan biaya boom AI. Minangka memori, wafer, lan kemasan kabeh mundhak rega, inflasi nyebar saka produsen chip menyang vendor server menyang panyedhiya awan lan pungkasane menyang perusahaan sing dibangun ing AI. Kanthi laporan pangentukan Nvidia amarga tanggal 26 Agustus, para panuku lan investor padha bakal mirsani sepira tekanan biaya sing diserap perusahaan - lan pira regane mudhun.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
