DeepSeek ได้เปิดตัว DSpark ซึ่งเป็นเฟรมเวิร์กการถอดรหัสโอเพ่นซอร์สเก็งกำไรที่บริษัทกล่าวว่าช่วยเร่งการอนุมานโมเดลภาษาขนาดใหญ่ (LLM) ได้มากถึง 85% ภายใต้การรับส่งข้อมูลสด โดยไม่สูญเสียคุณภาพเอาต์พุต ตามที่อธิบายไว้ในรายงานฉบับใหม่จาก DeepSeek-AI และมหาวิทยาลัยปักกิ่ง ระบบกำลังทำงานอยู่ภายในโครงสร้างพื้นฐานที่ให้บริการ DeepSeek-V4 ที่จัดการคำขอของผู้ใช้จริงอยู่แล้ว

งานนี้จัดการกับปัญหาที่ยุ่งยากที่สุดใน AI ที่ใช้งานจริง นั่นคือการอนุมานช้าเนื่องจากโมเดลสร้างข้อความทีละโทเค็น โดยแต่ละรายการต้องผ่านเครือข่ายทั้งหมด การถอดรหัสแบบเก็งกำไรเป็นวิธีการรักษายอดนิยมโดยที่โมเดล "ร่าง" ขนาดเล็กและรวดเร็วเสนอบล็อกโทเค็นที่โมเดลขนาดเต็มจะตรวจสอบในการส่งครั้งเดียว โดยยอมรับคำนำหน้าที่ถูกต้องที่ยาวที่สุด เนื่องจากการตรวจสอบเป็นแบบขนานและแม่นยำทางคณิตศาสตร์ จึงทำให้สิ่งต่างๆ เร็วขึ้นในขณะที่ยังคงการกระจายตัวของโมเดลดั้งเดิมไว้ DSpark ซึ่งเปิดตัวควบคู่ไปกับพื้นที่เก็บข้อมูลการฝึกอบรม DeepSpec บน GitHub ได้กลายเป็นหนึ่งในเรื่องราวทางวิศวกรรม AI ที่ได้รับการกล่าวถึงมากที่สุดอย่างรวดเร็วใน Hacker News For more context on this story, see our ongoing breaking AI news.

เหตุใดการถอดรหัสแบบเก็งกำไรที่มีอยู่จึงถึงอุปสรรค

การวิจัยการถอดรหัสเชิงเก็งกำไรล่าสุดได้มุ่งสู่ "ตัวร่างแบบขนาน" ที่สร้างบล็อกโทเค็นผู้สมัครทั้งหมดในการส่งต่อเพียงครั้งเดียว ทำให้เวลาแฝงของร่างแทบไม่ขึ้นอยู่กับขนาดบล็อก รายงานของ DSpark ระบุถึงปัญหาคอขวดสองประการที่ทำให้วิธีการเหล่านี้ไม่สามารถบรรลุผลตามสัญญาในวงกว้าง

ประการแรกคือปัญหาด้านคุณภาพ เนื่องจากผู้ร่างแบบขนานทำนายแต่ละตำแหน่งอย่างเป็นอิสระ พวกเขาจึงไม่สามารถจำลองได้ว่าโทเค็นภายในบล็อกต้องพึ่งพาซึ่งกันและกันอย่างไร นักวิจัยแสดงให้เห็นว่าสิ่งนี้นำไปสู่ ​​"การชนกันหลายรูปแบบ" และการสลายตัวของการยอมรับอย่างรวดเร็วในตำแหน่งต่อมาในบล็อกร่าง ซึ่งเป็นปรากฏการณ์ที่พวกเขาเรียกว่าการสลายตัวของคำต่อท้าย ยิ่งบล็อกคู่ขนานยาวเท่าใด หางก็จะยิ่งผิดมากขึ้นเท่านั้น

ประการที่สองคือปัญหาระดับระบบ แม้ว่าการสร้างบล็อกแบบร่างขนาดยาวจะมีราคาถูก แต่การตรวจสอบโทเค็นที่เสนอทั้งหมดโดยสุ่มสี่สุ่มห้าทำให้เสียความจุแบทช์ที่จำกัดบนโทเค็นมีแนวโน้มที่จะถูกปฏิเสธ ภายใต้การทำงานพร้อมกันสูงของระบบการให้บริการจริง ความยาวการตรวจสอบที่เหมาะสมที่สุดจะแตกต่างกันไปในสองแกน: คำขอที่มีโครงสร้าง เช่น รหัสจะรักษาอัตราการยอมรับที่สูงกว่าการแชทแบบปลายเปิด และการตรวจสอบโทเค็นเพิ่มเติมนั้นเกือบจะฟรีภายใต้ภาระงานน้อย แต่จะมีราคาแพงเมื่อระบบอิ่มตัว

แบบจำลองแบบร่างกึ่งอัตโนมัติ

เพื่อแก้ไขการสลายตัวของคำต่อท้าย DSpark จึงนำสิ่งที่ผู้เขียนเรียกว่าสถาปัตยกรรมแบบกึ่งอัตโนมัติมาใช้ โดยเชื่อมโยงแบ็คโบนคู่ขนานที่มีน้ำหนักมากในการคำนวณ ซึ่งสามารถเสนอโทเค็นจำนวนมากได้ในคราวเดียว พร้อมด้วยโมดูลลำดับแบบน้ำหนักเบาที่แนะนำการสร้างแบบจำลองการพึ่งพาภายในบล็อก การออกแบบนี้มีจุดมุ่งหมายเพื่อรวมความจุสูงของแบบจำลองคู่ขนานในตำแหน่งแรกๆ เข้ากับการเชื่อมโยงส่วนต่อท้ายของตัวร่างแบบ autoregressive แบบดั้งเดิม ซึ่งสร้างโทเค็นทีละรายการและเคารพการพึ่งพาโดยธรรมชาติ

ในการวัดประสิทธิภาพแบบออฟไลน์ที่มีการควบคุมซึ่งครอบคลุมการใช้เหตุผลทางคณิตศาสตร์ การสร้างโค้ด และการแชทรายวัน ทีมงานรายงานว่า DSpark ปรับปรุงระยะเวลาที่ยอมรับต่อรอบการตรวจสอบได้อย่างมีนัยสำคัญเหนือเส้นฐานที่แข็งแกร่ง โดยเฉพาะอย่างยิ่ง เอกสารระบุว่า DSpark ปรับปรุงความยาวที่ยอมรับได้เหนือตัวร่าง Eagle3 แบบ autoregressive 30.9%, 26.7% และ 30.0% ในการตั้งค่าสามแบบ และเหนือตัวร่าง DFlash แบบขนาน 16.3%, 18.4% และ 18.3%

การตรวจสอบความมั่นใจตามกำหนดเวลาและการรับรู้โหลด

อีกครึ่งหนึ่งของ DSpark คือแนวทางในการตรวจสอบ แทนที่จะตรวจสอบโทเค็นร่างในจำนวนคงที่สำหรับทุกคำขอ DSpark กลับกำหนดการเลือกระยะเวลาในการตรวจสอบให้เป็นปัญหาในการเพิ่มปริมาณการรับส่งข้อมูลทั่วโลก โดยจะจับคู่ค่าประมาณที่ปรับเทียบแล้วว่าคำนำหน้าของร่างมีแนวโน้มที่จะอยู่รอดได้นานแค่ไหน สิ่งที่เอกสารเรียกว่าความน่าจะเป็นในการเอาชีวิตรอด พร้อมด้วยตัวกำหนดตารางเวลาที่รับรู้ถึงฮาร์ดแวร์ที่อ่านโหลดของเอ็นจิ้นแบบเรียลไทม์

ผลลัพธ์คือการตรวจสอบตามกำหนดเวลาด้วยความมั่นใจ: ระบบจะปรับแต่งจำนวนโทเค็นที่จะตรวจสอบแบบไดนามิกสำหรับแต่ละคำขอ โดยขึ้นอยู่กับเนื้อหาของคำขอและสถานะปัจจุบันของกลไกการให้บริการ ภายใต้ภาระงานที่ไม่มาก สามารถตรวจสอบได้อย่างกว้างขวาง ในขณะที่อยู่ภายใต้การทำงานพร้อมกันจำนวนมาก ระบบจะกำหนดเส้นทางงบประมาณการตรวจสอบของโมเดลเป้าหมายไปยังโทเค็นที่ให้ผลตอบแทนที่คาดหวังสูงสุดเท่านั้น โดยหลีกเลี่ยงการล่มสลายของปริมาณงานที่เกิดจากการใช้กำลังการผลิตแบบแบตช์กับโทเค็นที่มีแนวโน้มต่ำ

ผลลัพธ์ภายใต้การเข้าชมผู้ใช้สด

ตัวเลขที่ตามมามากที่สุดมาจากการผลิต ทีมงานได้ติดตั้ง DSpark ภายในระบบการให้บริการ DeepSeek-V4 เพื่อรองรับการรับส่งข้อมูลผู้ใช้แบบเรียลไทม์ และเปรียบเทียบกับพื้นฐานการผลิตก่อนหน้าของบริษัท ซึ่งเป็นวิธีการทำนายโทเค็นหลายโทเค็นที่เรียกว่า MTP-1

จากรายงานดังกล่าว DSpark จะเร่งความเร็วในการสร้างต่อผู้ใช้อย่างต่อเนื่อง 60% ถึง 85% สำหรับ DeepSeek-V4-Flash และ 57% ถึง 78% สำหรับ DeepSeek-V4-Pro ที่ปริมาณงานรวมที่ตรงกัน ภายใต้ข้อตกลงระดับการบริการที่เข้มงวด ซึ่งความจุพื้นฐานลดลงอย่างมาก ซึ่งเทียบเท่ากับ 120 โทเค็นต่อวินาทีสำหรับ Flash และ 50 โทเค็นต่อวินาทีสำหรับ Pro DSpark จะลดค่าใช้จ่ายในการตรวจสอบเพื่อรักษาปริมาณงานที่แข็งแกร่ง ด้วยการเอาชนะหน้าผาประสิทธิภาพนั้น ผู้เขียนยืนยันว่าจะปลดล็อกระดับการโต้ตอบที่เข้มงวดซึ่งก่อนหน้านี้ไม่สามารถบรรลุได้ โดยเปลี่ยนขอบเขต Pareto ของ LLM ที่ให้บริการออกไปด้านนอกอย่างมีประสิทธิภาพ

ความแตกต่างนั้นสำคัญสำหรับผู้ปฏิบัติงาน ความเร็วต่อผู้ใช้ที่เร็วขึ้นที่ทรูพุตรวมเท่ากันหมายถึงผู้ช่วยที่ตอบสนองมากขึ้นและเวิร์กโฟลว์ตัวแทนโดยไม่ต้องซื้อฮาร์ดแวร์เพิ่มเติม ในขณะที่การอยู่รอด SLA แฝงที่เข้มงวดภายใต้ภาระงานคือสิ่งที่แยกการสาธิตการวิจัยออกจากระบบที่สามารถรองรับได้ในช่วงที่มีปริมาณการใช้งานพุ่งสูง

โอเพ่นซอร์สสำหรับชุมชน

DeepSeek กำลังเปิดตัวจุดตรวจสอบ DSpark ที่ได้รับการฝึกอบรมสำหรับทั้งรุ่นตัวอย่าง DeepSeek-V4-Flash และ DeepSeek-V4-Pro พื้นที่เก็บข้อมูล DeepSpec ที่ให้มาซึ่งเผยแพร่ภายใต้ใบอนุญาต MIT ที่ได้รับอนุญาต ได้รับการอธิบายว่าเป็นโค้ดเบสการฝึกอบรมและการประเมินผลที่ขับเคลื่อนด้วยอัลกอริทึมเต็มรูปแบบสำหรับการถอดรหัสเชิงคาดเดา ประกอบด้วยยูทิลิตี้การจัดเตรียมข้อมูล การใช้งานแบบจำลองแบบร่าง สคริปต์การฝึกอบรม และชุดประเมินผล และมาพร้อมกับอัลกอริธึมโมเดลแบบร่างสามแบบ ได้แก่ DSpark, DFlash และ Eagle3

การเปิดตัวดังกล่าวช่วยลดอุปสรรคสำหรับห้องปฏิบัติการและทีมโครงสร้างพื้นฐานอื่นๆ ในการฝึกอบรมและเปรียบเทียบโมเดลแบบร่างของตนเองกับไปป์ไลน์ที่ได้มาตรฐาน ชุดการประเมินของ DeepSpec ครอบคลุมการวัดประสิทธิภาพที่กำหนดไว้ ได้แก่ GSM8K, MATH500, AIME 2025, HumanEval, MBPP, LiveCodeBench, MT-Bench, AlpacaEval และ Arena-Hard-v2

ทำไมมันถึงสำคัญ

ต้นทุนการอนุมานและเวลาแฝงอยู่ในหมู่ข้อจำกัดที่กำหนดของอุตสาหกรรม AI โดยกำหนดทุกอย่างตั้งแต่วิธีที่บริษัทต่างๆ ปรับใช้ตัวแทน AI เชิงรุก ไปจนถึงผู้ให้บริการรายเล็กสามารถแข่งขันกับไฮเปอร์สเกลเลอร์ในเรื่องเศรษฐศาสตร์ต่อหน่วยได้หรือไม่ การมีส่วนร่วมของ DSpark นั้นใช้อัลกอริธึมใหม่เพียงตัวเดียวน้อยกว่าการสาธิตที่ร่วมออกแบบแบบจำลองแบบร่างและกำหนดตารางเวลาการตรวจสอบร่วมกันอย่างระมัดระวัง และถือว่าระยะเวลาในการตรวจสอบเป็นฟังก์ชันของสถานะระบบที่ใช้งานจริง สามารถย้ายเข็มในการปรับใช้จริงได้อย่างมีความหมาย

สำหรับ DeepSeek ซึ่งสร้างชื่อเสียงจากระบบที่มีประสิทธิภาพและเปิดตัวอย่างเปิดเผย DSpark เป็นอีกหนึ่งจุดข้อมูลในการโต้แย้งที่ห้องปฏิบัติการได้จัดทำขึ้นมานานกว่าหนึ่งปี: ประสิทธิภาพการให้บริการระดับแนวหน้านั้นสามารถบรรลุได้ผ่านวิศวกรรมที่ชาญฉลาดกว่า แทนที่จะผ่านการประมวลผลแบบดิบเท่านั้น ความจริงที่ว่ากำไรนั้นวัดภายใต้การรับส่งข้อมูลสด แทนที่จะเป็นเกณฑ์มาตรฐานสังเคราะห์ ทำให้ผู้ให้บริการรายอื่นสามารถพิจารณาผลลัพธ์อย่างจริงจังได้ง่ายขึ้น เนื่องจากชุมชนโอเพ่นซอร์สย่อยรายงานและเริ่มสร้างตัวเลขขึ้นมาใหม่

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →