AMD ได้เปิดตัว Threadripper Halo Station ซึ่งเป็นเวิร์กสเตชัน AI ระดับสูงสุดที่จับคู่ CPU Threadripper Pro 96-core เข้ากับตัวเร่งความเร็ว Instinct MI350P ที่ระบายความร้อนด้วยของเหลวคู่ ซึ่งเป็นการรวมกันที่บริษัทถือเป็นเวิร์คสเตชั่นที่ทรงพลังที่สุดในโลก โดยสามารถรันโมเดล AI จำนวนล้านล้านพารามิเตอร์ภายในเครื่องได้ เครื่องดังกล่าวถูกจัดแสดงในงาน IFA แม้ว่า AMD ยังไม่ได้ประกาศราคา วันวางจำหน่าย หรือพันธมิตร OEM ก็ตาม
การประกาศดังกล่าวเกิดขึ้นเนื่องจากฮาร์ดแวร์ AI ระดับเวิร์กสเตชันร้อนขึ้นอย่างรวดเร็ว หากต้องการข้อมูลเพิ่มเติมเกี่ยวกับเรื่องราวนี้และความเคลื่อนไหวของคู่แข่ง โปรดดู ข่าวฮาร์ดแวร์ AI ที่กำลังดำเนินอยู่ของเรา
ข้อมูลจำเพาะ: 96 Zen 5 Cores Plus 288GB ของ HBM3E
หัวใจของ Threadripper Halo Station คือ Threadripper Pro 9995WX ซึ่งเป็นชิป Zen 5 แบบ 96 คอร์ และ 192 เธรด ที่เร่งความเร็วได้สูงสุดถึง 5.4 GHz มาพร้อมแคช L3 ขนาด 384 MB และค่า TDP 350W ชิปเพียงอย่างเดียวไม่ใช่รายการโฆษณาทั่วไป: หน่วย Threadripper Pro 9995WX แบบสแตนด์อโลนมีราคาขายปลีกประมาณ 11,000 ถึง 12,000 ดอลลาร์
การเร่งความเร็วมาจากคู่คันเร่ง AMD Instinct MI350P ระบายความร้อนด้วยของเหลวทั้งคู่ การ์ดแต่ละใบมีหน่วยประมวลผล CDNA 4 จำนวน 128 หน่วยที่สร้างขึ้นบนกระบวนการ N3 ของ TSMC และหน่วยความจำ HBM3E ขนาด 144GB ทำให้ระบบมีหน่วยความจำแบนด์วิธสูงขนาด 288GB เมื่อแกะกล่อง ตัวเร่งความเร็วแต่ละตัวได้รับการจัดอันดับให้ดึงพลังงานได้สูงสุดถึง 600W
AMD กล่าวว่ามี "เส้นทางสู่สี่" — หมายความว่าในที่สุดแพลตฟอร์มจะสามารถรองรับตัวเร่งความเร็วได้อีกสองตัวในที่สุด โดยเพิ่มหน่วยความจำ GPU ทั้งหมดเป็น 576GB อย่างไรก็ตาม ในหน่วยที่สาธิตที่ IFA มีเพียงห้องทางกายภาพสำหรับการ์ดระบายความร้อนด้วยของเหลว 2 ใบข้างโฮสต์ Threadripper
หน่วยความจำระบบมีความจุสูงสุดที่ 2TB ของ DDR5 ซึ่งเป็นจำนวนสูงสุดที่รองรับตัวควบคุมหน่วยความจำแปดช่องสัญญาณของ CPU นั่นเป็นตัวเลขที่น่าตกใจ: ณ ราคาตลาดปัจจุบัน DDR5 ขนาด 2TB มีราคาประมาณ 50,000 เหรียญสหรัฐ
ราคาเท่าไหร่: คิดเลขหกหลัก
AMD ไม่ได้กำหนดราคา แต่คณิตศาสตร์ส่วนประกอบบอกเล่าเรื่องราว ตามข้อมูลของ Tom's Hardware ซึ่งตรวจสอบการกำหนดค่า โดยนำส่วนประกอบหลักมารวมกัน ได้แก่ CPU, หน่วยความจำ และ GPU คู่ ราคาตามท้องถนนควรเกิน 100,000 เหรียญสหรัฐ ก่อนที่จะคำนึงถึงการจัดเก็บ พลังงาน และระบบทำความเย็น ด้วยการกำหนดค่าที่สูงขึ้น เวิร์คสเตชั่น "สามารถปีนขึ้นไปเกิน 150,000 เหรียญสหรัฐได้อย่างง่ายดาย"
ตัวเครื่องได้รับการอธิบายว่าเป็นถาดเซิร์ฟเวอร์ที่ได้รับการกำหนดค่าใหม่ในตู้ทาวเวอร์ AMD ไม่ได้เปิดเผยรายละเอียดที่กว้างขวางเกินกว่าข้อกำหนด และบริษัทระบุว่าการออกแบบนี้เป็นหนึ่งในพันธมิตร OEM ที่จะสร้างและจัดส่งในท้ายที่สุด ยังไม่มีการประกาศพันธมิตร และดูเหมือนว่า AMD จะไม่มีแผนที่จะขายการกำหนดค่าเวิร์กสเตชันที่ใช้ MI350P โดยตรง
การเรียกร้องของ AMD: โมเดลพารามิเตอร์ล้านล้านบนโต๊ะ
คำกล่าวอ้างพาดหัวจาก AMD คือ Threadripper Halo Station สามารถรันโมเดลที่มีพารามิเตอร์ได้หลายล้านล้านโมเดล นั่นคือหน้าที่ของเรื่องราวหน่วยความจำแบบรวมขนาดมหึมา: ด้วย HBM3E ขนาด 288GB บนตัวเร่งความเร็วทั้งสอง — และอาจถึง 576GB ในการกำหนดค่า GPU สี่ตัว — โมเดลที่โดยปกติแล้วต้องการเซิร์ฟเวอร์ศูนย์ข้อมูล ในทางทฤษฎีแล้ว สามารถโหลดและรันในเครื่องได้
การกล่าวอ้างนี้ได้รับการตรวจสอบจากผู้ที่ชื่นชอบฮาร์ดแวร์ทันที โดยทั่วไป โมเดลภาษาขนาดใหญ่ที่มีพารามิเตอร์ล้านล้านจำเป็นต้องมีการวัดปริมาณเพื่อให้พอดีกับหน่วยความจำที่มีอยู่ และ RAM ของระบบที่แบนด์วิธ 400–500GB/วินาทีนั้นช้ากว่าหน่วยความจำ GPU มาก ทำให้การถ่ายโอน PCIe เร็วขึ้นอาจเป็นปัญหาคอขวดสำหรับปริมาณงานที่สับเปลี่ยนข้อมูลระหว่าง CPU และตัวเร่งความเร็ว ในทางปฏิบัติ โมเดลมักจะยังคงอยู่ในหน่วยความจำ GPU ในระหว่างการอนุมาน โดย CPU และ DDR5 ขนาด 2TB รองรับงานการพัฒนารอบๆ โมเดล
เทียบกับ Nvidia และ Lenovo ได้อย่างไร
Threadripper Halo Station เข้าสู่ตลาดเฉพาะกลุ่มแต่เติบโตอย่างรวดเร็วสำหรับซูเปอร์คอมพิวเตอร์ AI บนโต๊ะ ทาวเวอร์เดสก์ท็อป DGX Station ที่ขับเคลื่อนด้วย GB300 ของ Nvidia ได้รับการจดทะเบียนออนไลน์ในราคาเกือบ 100,000 ดอลลาร์ ในตอนท้ายที่เข้าถึงได้ AMD เองก็เพิ่งวางตำแหน่ง Ryzen AI Halo มูลค่า 3,999 ดอลลาร์ในฐานะผู้ท้าชิง DGX Spark ของ Nvidia ซึ่งเป็นเครื่องจักรที่มุ่งเป้าไปที่นักพัฒนามากกว่าปริมาณงานล้านล้านพารามิเตอร์
มีแบบอย่างสำหรับป้ายราคาที่สูงกว่าในคลาสนี้ Lenovo ThinkStation P8 ซึ่งใช้ซีพียู Threadripper Pro เป็นโฮสต์ ปัจจุบันมีราคาอยู่ที่ 334,463 ดอลลาร์ เมื่อใช้งานสูงสุดด้วย DDR5 ขนาด 2TB และตัวเร่งความเร็ว Blackwell คู่ เมื่อเทียบกับฉากหลังนั้น Halo Station ที่มีตัวเลขหกหลักคงไม่ใช่สิ่งผิดปกติ
ทำไมมันถึงสำคัญ
Halo Station ส่งสัญญาณถึงความตั้งใจของ AMD ที่จะแข่งขันทุกชั้นของ AI Compute Stack ตั้งแต่เดสก์ท็อปราคา 3,999 ดอลลาร์ไปจนถึง GPU สำหรับศูนย์ข้อมูล แทนที่จะยกเวิร์กสเตชันระดับไฮเอนด์ให้กับกลุ่มผลิตภัณฑ์ DGX ของ Nvidia สำหรับห้องปฏิบัติการ องค์กรที่มีข้อกำหนดด้านอธิปไตยข้อมูลที่เข้มงวด และนักวิจัยที่ต้องการโมเดลระดับแนวหน้าหลังไฟร์วอลล์ ระบบบนโต๊ะแบบ 96 คอร์ระบายความร้อนด้วยของเหลว พร้อม HBM3E ขนาด 288GB อาจเป็นทางเลือกที่น่าสนใจแทนการเช่าระบบคลาวด์
คำถามปลายเปิดคือคำถามที่ AMD ยังตอบไม่ได้: การกำหนดราคาขั้นสุดท้าย วันวางจำหน่าย และ OEM รายใดที่จะสร้างมันขึ้นมาจริง เนื่องจากเครื่องดังกล่าวเปิดตัวครั้งแรกในงาน IFA โดยไม่มีพันธมิตรแนบมาด้วย คาดว่ารายละเอียดเหล่านั้นจะปรากฏในอีกไม่กี่เดือนข้างหน้า สิ่งที่ชัดเจนอยู่แล้วคือขอบเขตระหว่าง "เวิร์กสเตชัน" และ "ศูนย์ข้อมูล" ยังคงดำเนินต่อไป — และ AMD ตั้งใจที่จะผลักดันให้ไกลยิ่งขึ้น
---
ก้าวนำหน้า AIรับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว
อ่านข่าว AI เพิ่มเติม →