Cerebras Systems กล่าวว่าบริษัทได้นำการอนุมานแบบแยกส่วนมาใช้ในการผลิต โดยแบ่งปริมาณงานการอนุมาน AI ระหว่าง GPU ทั่วไปและโปรเซสเซอร์ขนาดเวเฟอร์ในการกำหนดค่าที่บริษัทอ้างว่าให้โทเค็นต่อเมกะวัตต์มากกว่าห้าเท่าโดยไม่ทำให้ความเร็วในการสร้างลดลง

การประกาศดังกล่าวซึ่งเผยแพร่ในบล็อกของบริษัทเมื่อวันที่ 17 พฤศจิกายน 2569 ถือเป็นการเปลี่ยนแปลงครั้งสำคัญของบริษัทที่ใช้เวลาหลายปีในการวางตำแหน่ง Wafer Scale Engine เป็นทางเลือกแทนการอนุมานโดยใช้ GPU แทนที่จะเป็นส่วนเสริม ตอนนี้ Cerebras กล่าวว่า GPU จะจัดการกับขั้นตอนการประมวลผลแบบทันที ในขณะที่ระบบของตัวเองจะจัดการกับขั้นตอนการสร้างโทเค็น For more context on this story, see our ongoing breaking AI news.

เหตุใดจึงต้องแยกการอนุมานเป็นสองส่วน?

การอนุมานเกิดขึ้นในสองขั้นตอน การกรอกข้อมูลล่วงหน้าจะประมวลผลพร้อมท์ของผู้ใช้และสร้างสถานะโมเดลระดับกลาง จากนั้นถอดรหัสจะใช้สถานะนั้นเพื่อสร้างโทเค็นเอาต์พุตทีละรายการในลูปอัตโนมัติที่ทำซ้ำสำหรับทุกคำของการตอบกลับ

ทั้งสองขั้นตอนมีโปรไฟล์การคำนวณที่แตกต่างกันมาก การเติมล่วงหน้าเป็นการประมวลผลที่หนักหน่วงและขนานกัน ซึ่งเป็นจุดที่ GPU เป็นเลิศ การถอดรหัสเป็นแบบจำกัดแบนด์วิธของหน่วยความจำและเป็นลำดับ ซึ่ง Cerebras แย้งว่าสถาปัตยกรรมขนาดเวเฟอร์มีข้อได้เปรียบ เนื่องจากทั้งรุ่นสามารถนั่งบนซิลิคอนชิ้นเดียวโดยไม่ต้องมีการสื่อสารระหว่างชิปซึ่งจะทำให้คลัสเตอร์ GPU ช้าลงระหว่างการสร้าง

บริษัทได้ทดลองใช้วิธีอื่นๆ ในการแบ่งภาระงาน ในบล็อกโพสต์ Cerebras แสดงรายการโครงร่างเป้าหมายแบบร่าง โดยที่โมเดลขนาดเล็กเสนอโทเค็นและโมเดลที่ใหญ่กว่าจะตรวจสอบพวกมัน และการแยกความสนใจและ FFN ออกจากทางเลือกอื่นที่พิจารณา แต่มันแย้งว่าการแยกส่วนที่เติมไว้ล่วงหน้าจากการถอดรหัสนั้นเหมาะสมอย่างยิ่งกับแอปพลิเคชันที่มีการโต้ตอบสูง เนื่องจากขั้นตอนการถอดรหัสจะรักษาความเร็วการสร้างที่เร็วเป็นพิเศษอันเป็นเอกลักษณ์ของ Cerebras เอาไว้

ตัวเลขเบื้องหลังการเรียกร้อง

จากประกาศดังกล่าว การกำหนดค่าแบบแยกส่วนขณะนี้ใช้งานอยู่ใน Cerebras Inference Cloud และส่งมอบโทเค็นเพิ่มขึ้นห้าเท่าต่อเมกะวัตต์ด้วยความเร็วรุ่นเดียวกันกับที่บริษัทให้บริการอยู่แล้ว Cerebras กล่าวว่าพันธมิตรด้านโครงสร้างพื้นฐานยังสามารถปรับใช้สถาปัตยกรรมแบบแยกเดียวกันในศูนย์ข้อมูลของตนเองได้

ตรรกะทางเศรษฐกิจตรงไปตรงมา ผู้ให้บริการการอนุมานจะได้รับรายได้ต่อโทเค็น และกำลังคือข้อจำกัดที่มีผลผูกพันกับความจุ หากเมกะวัตต์เดียวกันให้ผลตอบแทนเป็นห้าเท่าของโทเค็น สิ่งอำนวยความสะดวกเดียวกันจะสร้างศักยภาพในการสร้างรายได้มากขึ้นตามสัดส่วน ซึ่งบริษัทแสดงด้วยตารางเปรียบเทียบการกำหนดค่าการให้บริการแบบรวมและแบบแยกส่วน

การประกาศดังกล่าวยังอาศัยการคาดการณ์อุปสงค์เพื่อโต้แย้งว่าอุตสาหกรรมต้องการทุกประสิทธิภาพที่เพิ่มขึ้นเท่าที่จะเป็นไปได้ จากการวิจัยของ Goldman Sachs Cerebras กล่าวว่าความต้องการในการอนุมาน AI คาดว่าจะเพิ่มขึ้นประมาณ 24 เท่าจากระดับปี 2569 ภายในปี 2573 ในขณะที่ความจุของศูนย์ข้อมูลเพิ่มขึ้นเพียงประมาณ 2.2 เท่าในช่วงเวลาเดียวกัน หากการคาดการณ์ทั้งสองยังคงอยู่ ช่องว่างระหว่างสิ่งที่ผู้ใช้ต้องการเรียกใช้และสิ่งอำนวยความสะดวกที่ใช้พลังงานได้จะกลายเป็นข้อจำกัดที่กำหนดการสร้าง AI ในช่วงปลายทศวรรษ 2020

แอปพลิเคชันตัวแทนผลักดันให้เกิดการกระทืบ

บริษัทระบุว่าความต้องการที่เพิ่มขึ้นนั้นเกิดจากการปรับขนาดแอปพลิเคชันเอเจนต์อย่างรวดเร็วในปี 2569 โดยตั้งชื่อ Muse, Copilot และ Codex เป็นตัวอย่างของผลิตภัณฑ์ที่ต้องการการอนุมานแบบโต้ตอบในระดับสูงเพื่อให้ผู้ใช้มีส่วนร่วม เจ้าหน้าที่การสนทนาที่สตรีมโทเค็นการตอบกลับตามโทเค็นนั้นเป็นปริมาณงานที่แน่นอน โดยที่ความเร็วในการสร้างเป็นคุณสมบัติที่ผู้ใช้ต้องเผชิญแทนที่จะเป็นตัววัดแบ็คเอนด์

Cerebras วางตำแหน่งการเปิดตัวภายในการผลักดันความจุที่กว้างขึ้น บริษัทชี้ให้เห็นถึงระบบ CS-4 ที่เพิ่งประกาศเมื่อเร็วๆ นี้ การขยายขนาดผลผลิตการผลิตอย่างมาก และความจุของศูนย์ข้อมูลที่วางแผนไว้ประมาณ 700 เมกะวัตต์ จะเป็นชิ้นส่วนที่จะช่วยให้บริษัทและพันธมิตรรองรับการรับส่งข้อมูลได้มากขึ้นในปี 2570 และต่อๆ ไป

การเปลี่ยนแปลงในทางปฏิบัติสำหรับ Wafer-Scale

ในเชิงกลยุทธ์ การประกาศดังกล่าวถือเป็นการอำนวยความสะดวกเชิงปฏิบัติของการครอบงำ GPU แทนที่จะขอให้ลูกค้าย้ายไปป์ไลน์การอนุมานทั้งหมดไปยังซิลิคอนที่แปลกใหม่ Cerebras กำลังเสนอการแบ่งงาน: ปล่อยให้ GPU ทำสิ่งที่พวกเขาได้รับการปรับให้เหมาะสม และปล่อยให้ฮาร์ดแวร์ขนาดเวเฟอร์ทำในสิ่งที่ดีที่สุด สำหรับผู้ให้บริการการอนุมานที่ถูกบีบระหว่างความต้องการที่เพิ่มขึ้นและข้อจำกัดด้านพลังงาน ความสามารถในการนำเสนอคือความจุที่พวกเขาสามารถเพิ่มได้โดยไม่ต้องรอฮาร์ดแวร์รุ่นใหม่

การกล่าวอ้างประสิทธิภาพห้าเท่านั้นครอบคลุมสถาปัตยกรรมโมเดลที่หลากหลายและการผสมผสานการรับส่งข้อมูลในโลกแห่งความเป็นจริงหรือไม่นั้น จะกลายเป็นที่ชัดเจนเมื่อพันธมิตรปรับใช้การกำหนดค่าในวงกว้างเท่านั้น แต่ทิศทางการเดินทางที่ชัดเจนทั่วทั้งอุตสาหกรรม เนื่องจากการอนุมานเข้ามาแทนที่การฝึกอบรมในฐานะเวิร์กโหลดการประมวลผลหลัก ผู้จำหน่ายฮาร์ดแวร์รายใหญ่ทุกรายจึงตรวจสอบอีกครั้งว่ารุ่นสองขั้นตอนควรแบ่ง ขับเคลื่อน และกำหนดราคาอย่างไร

เปรียบเทียบกับแนวทาง GPU-Native อย่างไร

ผู้ให้บริการอนุมานระดับไฮเปอร์สเกลรายใหญ่ได้ดำเนินกลยุทธ์การแยกส่วนของตนเอง โดยโดยทั่วไปจะคอยปรับทั้งสองขั้นตอนในตระกูล GPU ให้เหมาะกับแต่ละวัตถุประสงค์ ตัวแปรของ Cerebras มีความโดดเด่นในการข้ามสายผู้จำหน่าย: บริษัทยืนยันว่า GPU ของ AMD จัดการขั้นตอนการเติมล่วงหน้าในการกำหนดค่าการผลิต โดยที่ระบบ Cerebras มีหน้าที่ในการถอดรหัส ความแตกต่างดังกล่าวมีความสำคัญสำหรับผู้ปฏิบัติงาน เนื่องจากจะถือว่าการเติมล่วงหน้าและถอดรหัสเป็นสินค้าโภคภัณฑ์ที่จัดซื้อแยกกันได้ แทนที่จะเป็นการรวมสแต็กเดียว

ผลลัพธ์ที่เผยแพร่ของบริษัทเน้นย้ำว่าการแยกจะรักษาความเร็วในการสร้างมากกว่าการแลกเปลี่ยนเพื่อประสิทธิภาพ ความแตกต่างดังกล่าวกล่าวถึงการวิพากษ์วิจารณ์มายาวนานเกี่ยวกับการให้บริการแบบแยกส่วน: การกรอกข้อมูลล่วงหน้าเป็นชุดแบบแยกกันสามารถเพิ่มเวลาแฝงให้กับโทเค็นแรก และการกำหนดค่าใดๆ ที่ทำให้ลูปการถอดรหัสช้าลงจะบ่อนทำลายความรู้สึกเชิงโต้ตอบที่บริการอนุมานระดับพรีเมียมขาย Cerebras อ้างว่าการจัดการดังกล่าวหลีกเลี่ยงบทลงโทษทั้งสอง แม้ว่าการวัดประสิทธิภาพที่เป็นอิสระสำหรับความยาวการแจ้งเตือนและรูปแบบการรับส่งข้อมูลที่แตกต่างกันจะเป็นการทดสอบที่แท้จริง

สำหรับผู้อ่าน AI Buzz Wire ที่ติดตามการแข่งขันด้านโครงสร้างพื้นฐาน ข้อความจาก Cerebras คือยุคของการอนุมานแบบชิปเดียวที่เหมาะกับทุกคนกำลังหลีกทางให้กับไปป์ไลน์ที่สร้างขึ้นตามวัตถุประสงค์ — และบริษัทตั้งใจที่จะเป็นเจ้าของการถอดรหัสครึ่งหนึ่ง

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →