Nvidia ได้บอกกับลูกค้ารายใหญ่ที่สุดบางรายว่าราคาสำหรับเซิร์ฟเวอร์ที่มีชิป AI จะเพิ่มขึ้นมากกว่า 15 เปอร์เซ็นต์สำหรับระบบที่ส่งมอบตั้งแต่ต้นปี 2570 ตามข้อมูลของ Bloomberg ซึ่งเป็นการขึ้นราคาครั้งใหญ่ครั้งที่สองในรอบน้อยกว่าหนึ่งปี เพิ่มเติมจากการปรับขึ้นประมาณ 30 เปอร์เซ็นต์ในเกือบทุกสายผลิตภัณฑ์ในเดือนกรกฎาคม
คำเตือนที่สื่อสารผ่านผู้ผลิตเซิร์ฟเวอร์ที่ประกอบระบบสำหรับผู้ปฏิบัติงานศูนย์ข้อมูลขนาดใหญ่ ถือเป็นช่วงเวลาที่ละเอียดอ่อนสำหรับอุตสาหกรรม AI: องค์กรต่างๆ กำลังต่อสู้กับต้นทุนในการสร้างโครงสร้างพื้นฐานขนาดใหญ่ และตลาดหน่วยความจำ ซึ่งเป็นตัวขับเคลื่อนการเพิ่มขึ้นตามที่ระบุ ไม่ได้แสดงสัญญาณของการระบายความร้อน Nvidia มีกำหนดรายงานผลประกอบการรายไตรมาสในวันที่ 26 สิงหาคม ซึ่งนักวิเคราะห์คาดว่าจะมีรายละเอียดใหม่เกี่ยวกับอุปสงค์ อุปทาน และต้นทุน For more context on this story, see our ongoing artificial intelligence updates.
ระบบใดบ้างที่ได้รับผลกระทบ
ตามการรายงาน การเพิ่มขึ้นนี้จะนำไปใช้กับเซิร์ฟเวอร์ที่สร้างขึ้นบนแพลตฟอร์มเรือธง Grace Blackwell ของ Nvidia และ Vera Rubin รุ่นที่กำลังจะมาถึง การเพิ่มขึ้นจะไม่เหมือนกัน: ขนาดของการปรับเปลี่ยนขึ้นอยู่กับการสร้างซิลิคอนของ Nvidia ที่เกี่ยวข้อง ตลอดจนจำนวนและการกำหนดค่าหน่วยความจำในแต่ละระบบ
ผู้ผลิตเซิร์ฟเวอร์ที่ให้บริการบริษัทเทคโนโลยีรายใหญ่ รวมถึง Microsoft, Google และ Oracle ได้รายงานว่าได้เริ่มแจ้งให้ลูกค้าทราบเกี่ยวกับการเปลี่ยนแปลงราคาที่จะเกิดขึ้นสำหรับระบบที่จัดส่งในต้นปี 2570
ความทรงจำคือผู้ร้าย
ตัวขับเคลื่อนหลักคือต้นทุนหน่วยความจำที่เพิ่มขึ้นอย่างรวดเร็ว ระบบ AI ประสิทธิภาพสูงต้องการหน่วยความจำแบนด์วิดธ์สูงปริมาณมหาศาล และความต้องการจากการขยายศูนย์ข้อมูลส่งผลให้ราคา HBM และ LPDDR5 พุ่งสูงขึ้น ผู้ผลิตหน่วยความจำ Samsung Electronics, SK Hynix และ Micron Technology ล้วนเผชิญกับความต้องการที่แข็งแกร่ง เนื่องจากความจุเซมิคอนดักเตอร์มุ่งเป้าไปที่หน่วยความจำแบนด์วิธสูงและผลิตภัณฑ์คอมพิวเตอร์ขั้นสูงอื่นๆ มากขึ้น
Gaurav Gupta รองประธานและนักวิเคราะห์ของ Gartner กล่าวว่าการเพิ่มขึ้นนี้สะท้อนถึงแรงกดดันในห่วงโซ่อุปทาน AI ทั้งหมด ไม่ใช่แค่ RAM “ราคาหน่วยความจำกำลังสูงขึ้น โดยเฉพาะอย่างยิ่ง HBM และ LPDDR5 แต่ก็มีแง่มุมอื่นๆ เช่น เวเฟอร์สำหรับโรงหล่อระดับแนวหน้า บรรจุภัณฑ์ขั้นสูง และการขาดแคลนส่วนประกอบอื่นๆ” เขากล่าวกับ CIO.com โดยเสริมว่าปัญหาเหล่านั้นทำให้เกิดระยะเวลารอคอยสินค้าที่นานขึ้น “ซึ่งโดยทั่วไปจะแปลเป็นราคาที่สูงขึ้น”
และเขาไม่คาดหวังว่าจะโล่งใจในเร็ว ๆ นี้ “ในสภาพแวดล้อมปัจจุบันที่มีอุปสงค์ที่แข็งแกร่งและอุปทานที่จำกัด เราคาดว่าสถานการณ์นี้จะดำเนินต่อไปในระยะใกล้ถึงระยะกลาง” Gupta กล่าว ซึ่งหมายถึงต้นทุนที่สูงขึ้นทั้งสำหรับองค์กรที่ใช้เซิร์ฟเวอร์ของตนเองและสำหรับผู้เช่าคอมพิวเตอร์ในระบบคลาวด์
ทางเลือกน้อยสำหรับผู้ซื้อ
สำหรับ CIO แคลคูลัสไม่น่าสนใจ ที่ปรึกษาและนักวิเคราะห์กล่าวว่าองค์กรต่างๆ มีทางเลือกเพียงเล็กน้อยนอกจากต้องยอมรับว่าการกำหนดราคาโครงสร้างพื้นฐาน AI จะเพิ่มขึ้นอย่างต่อเนื่อง และการเปลี่ยนซัพพลายเออร์ แม้ว่าจะเป็นไปได้ ก็จะไม่เลี่ยงการเพิ่มขึ้น เนื่องจากต้นทุนหน่วยความจำและส่วนประกอบส่งผลกระทบต่อตลาดทั้งหมด
Scott Bickley ที่ปรึกษาของ Info-Tech Research Group แย้งว่า Nvidia กำลังดูดซับส่วนหนึ่งของการโจมตีนี้จริงๆ การคำนวณของเขาชี้ให้เห็นว่าบริษัทมีแนวโน้มที่จะต้องแบกรับต้นทุนที่เพิ่มขึ้นของตัวเองและส่งต่อให้กับลูกค้ารายใหญ่ที่สุดเพียงเศษเสี้ยวเท่านั้น แต่เขาพูดตรงไปตรงมาเกี่ยวกับเลเวอเรจที่ผู้ซื้อมี: "ต้นทุนเวิร์กโหลดลดลงต่อโทเค็น ในขณะที่ต้นทุนฮาร์ดแวร์และโครงสร้างพื้นฐานพื้นฐานเพิ่มขึ้น" เขากล่าว "หากคุณสร้างคลัสเตอร์ของคุณเองโดยตรง นี่เป็นการยกระดับโซลูชันที่มีราคาแพงอยู่แล้วโดยอัตโนมัติ หากคุณซื้อฮาร์ดแวร์ของคุณเอง คุณจะต้องเลิกใช้มัน คุณจะไม่เจรจาหาทางออกจากสิ่งนี้"
มีซับในสีเงินประการหนึ่งที่ Bickley ชี้ไปที่: ราคาต่อโทเค็นสำหรับโมเดล AI ดูเหมือนจะลดลง ซึ่งทำให้ผู้ซื้อมีวิธีลดอัตราเงินเฟ้อของฮาร์ดแวร์โดยการออกแบบเวิร์กโหลดที่อาศัยความจุหน่วยความจำดิบน้อยลง
บีบเพิ่มเติมจากสิ่งที่คุณมีอยู่แล้ว
กลยุทธ์ดังกล่าว — การได้รับไมล์สะสมมากขึ้นจากฮาร์ดแวร์ที่มีอยู่ — เป็นที่ที่นักวิเคราะห์หลายคนมาบรรจบกัน Bickley ชี้ให้เห็นถึงเทคนิคต่างๆ เช่น การกำหนดเส้นทางแบบจำลอง การบีบอัด และการประมวลผลแบบแบตช์ ซึ่งเป็นวิธีการเพิ่มการใช้ประโยชน์จากคลัสเตอร์ที่ให้บริการอยู่แล้ว
Flavio Villanustre, CISO ของ LexisNexis Risk Solutions Group เห็นพ้องกันว่าการบีบตัวเป็นปัญหาโดยพื้นฐานด้านอุปสงค์และอุปทาน ซึ่งน่าจะยุติลงเมื่อการผลิตหน่วยความจำเพิ่มขึ้นเพื่อตอบสนองความต้องการที่ขับเคลื่อนด้วย AI แต่เขาไม่เห็นว่าจะเกิดขึ้นในอีกไม่กี่เดือนข้างหน้า ในระหว่างนี้ เขาตั้งข้อสังเกตว่าผู้จำหน่ายโมเดล AI บางรายกำลังปรับโมเดลของตนเพื่อให้ทำงานได้ดีขึ้นในสภาพแวดล้อมที่จำกัดหน่วยความจำ เขาชี้ไปที่ Gemma E4B ของ Google และโมเดลที่คล้ายกัน ซึ่งใช้แนวทางแบบลำดับชั้นที่ดึงเฉพาะส่วนที่จำเป็นของโมเดลลงในหน่วยความจำ แทนที่จะเก็บโมเดลทั้งหมดไว้ใน RAM
Mike Wilkes CISO องค์กรของ Aikido Security แย้งว่าการขึ้นราคาอาจส่งผลดีได้บ้างหากพวกเขาบังคับใช้สถาปัตยกรรมที่มีระเบียบวินัยมากขึ้น องค์กรต่างๆ ใช้เวลาไม่กี่ปีที่ผ่านมาในการรักษาโทเค็นโมเดลชายแดนว่าเป็น "ยูทิลิตี้ที่ยืดหยุ่นได้อย่างไม่มีที่สิ้นสุด" เขากล่าว โดยกำหนดเส้นทางภาระงานไปยังโมเดลที่ใหญ่ที่สุด โดยไม่คำนึงว่างานนั้นจะต้องใช้เหตุผลระดับชายแดนหรือไม่ สถาปัตยกรรมที่เหมาะสมเป็นแบบผสมผสานมากขึ้น โดยสงวนไว้ประมาณ 10 เปอร์เซ็นต์ของการใช้งานสำหรับโมเดลระดับแนวหน้าในปัญหาที่ต้องการอย่างแท้จริง ในขณะเดียวกันก็ผลักดันการจำแนกประเภท การดึงข้อมูล การสรุป และการดำเนินการของเอเจนต์ประจำไปยังโมเดลภาษาขนาดเล็กและโมเดล Open-Weight ที่ทำงานบนโครงสร้างพื้นฐานที่องค์กรควบคุม
“นั่นทำให้ CIO สามารถใช้ประโยชน์จากการโก่งราคาหรือการตั้งราคาฝ่ายเดียว” วิลค์สกล่าว
สัญญาณเงินเฟ้อสำหรับเศรษฐกิจ AI
การเพิ่มขึ้นนี้ยังเป็นสัญญาณว่าต้นทุนของ AI boom กำลังมุ่งหน้าไปที่ใด เนื่องจากหน่วยความจำ เวเฟอร์ และบรรจุภัณฑ์มีราคาสูงขึ้น อัตราเงินเฟ้อจึงแพร่กระจายจากผู้ผลิตชิปไปยังผู้จำหน่ายเซิร์ฟเวอร์ ไปยังผู้ให้บริการคลาวด์ และท้ายที่สุดไปยังองค์กรที่สร้างบน AI ด้วยรายงานผลประกอบการของ Nvidia ซึ่งจะครบกำหนดในวันที่ 26 สิงหาคม ผู้ซื้อและนักลงทุนจะรอดูว่าบริษัทจะรับแรงกดดันด้านต้นทุนได้มากเพียงใด และจะผ่านขั้นตอนปลายน้ำไปเท่าใด
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →