นักพัฒนาหวังที่จะหลบหนี Windows บนแล็ปท็อป RTX Spark ของ Nvidia เพิ่งชนกำแพง การตรวจสอบโดยละเอียดที่เผยแพร่โดย MindStudio พบว่าในขณะที่ Linux ติดตั้งและทำงานบนเครื่องที่เน้น AI เหล่านี้ ด้วยการเร่งความเร็วของ GPU เดสก์ท็อปเต็มรูปแบบ และอุปกรณ์ต่อพ่วงที่ใช้งานได้ เฟิร์มแวร์การจัดการพลังงานที่เข้ารหัสจะล็อค GPU ให้เหลือประมาณหนึ่งในสามของความเร็วสัญญาณนาฬิกาของ Windows ยุบการอนุมาน AI ในเครื่องจาก 65.4 โทเค็นต่อวินาทีเหลือเพียง 13.9 บนฮาร์ดแวร์และรุ่นเดียวกัน

นั่นเป็นช่องว่างเกือบห้าเท่าสำหรับเครื่องจักรที่วางตลาดโดยนักพัฒนา AI หากต้องการทราบบริบทเพิ่มเติมเกี่ยวกับเรื่องราวนี้ โปรดดู การพัฒนา AI ล่าสุด ที่กำลังดำเนินอยู่

เกณฑ์มาตรฐาน: หนึ่งรุ่น การกำหนดค่าสี่แบบ

การตรวจสอบได้เปรียบเทียบ GPT-OSS-120B ซึ่งเป็นรุ่นเปิดที่มีพารามิเตอร์ 120 พันล้านพารามิเตอร์ที่เหมาะกับหน่วยความจำรวม 128GB ของแล็ปท็อปในการกำหนดค่าสี่แบบ:

  • Windows บน ARM (ดั้งเดิม): โทเค็น 65.4 ต่อวินาที
  • WSL (Linux ภายใน Windows): 65.1 โทเค็นต่อวินาที
  • Nvidia DGX Spark (หน่วยเดสก์ท็อป): 61 โทเค็นต่อวินาที
  • Native Linux (แล็ปท็อปเครื่องเดียวกัน): 13.9 โทเค็นต่อวินาที

รูปแบบที่โดดเด่น WSL — Linux ที่ทำงานเป็นระบบย่อยบน Windows — ตรงกับ Windows ดั้งเดิมเกือบทุกประการ DGX Spark ระดับเดสก์ท็อปจะช้ากว่าแล็ปท็อปบน Windows เล็กน้อย ซึ่งอาจสะท้อนถึงโปรไฟล์การระบายความร้อนที่แตกต่างกัน แต่ Linux แบบเนทีฟบนแล็ปท็อปเครื่องเดียวกันนั้นจัดการประสิทธิภาพของ Windows ได้ไม่ถึงหนึ่งในห้า

เฟิร์มแวร์ที่เข้ารหัสเป็นสาเหตุที่แท้จริง

ผู้ร้ายไม่ใช่ไดรเวอร์เคอร์เนล Nvidia แบบโอเพ่นซอร์ส ซึ่งทำงานและให้การเร่งความเร็ว CUDA เป็นส่วนประกอบเฉพาะของ Windows ที่เรียกว่า Nvidia Platform Controllers and Framework ซึ่งจัดการการจ่ายพลังงานระหว่าง CPU และ GPU การตรวจสอบพบว่าเฟิร์มแวร์นี้ไม่เทียบเท่ากับ Linux — และตารางพลังงานของมันถูกเข้ารหัส ดังนั้นเฉพาะไดรเวอร์ Windows เท่านั้นที่สามารถอ่านได้

ผลกระทบในทางปฏิบัติ: เมื่อแล็ปท็อปเสียบเข้ากับแหล่งจ่ายไฟบนผนัง GPU จะถูกล็อคไว้ที่ประมาณ 780 MHz บน Linux แทนที่จะเป็น 2.2 GHz บวกที่เข้าถึงได้บน Windows ในด้านแบตเตอรี่ ความแตกต่างจะแคบลง แต่การทำงานแบบเสียบปลั๊กจะเกิดขึ้นในเวลาที่คุณคาดหวังประสิทธิภาพการอนุมานสูงสุด และแน่นอนว่าเมื่อ Linux ไม่สามารถส่งมอบได้

gotcha ที่แยกหน่วยความจำ

ความเร็วสัญญาณนาฬิกาไม่ใช่เพียงการตั้งค่าที่ขึ้นอยู่กับ Windows เท่านั้น เฟิร์มแวร์ของแล็ปท็อปสงวนหน่วยความจำรวม 96GB จาก 128GB สำหรับ GPU ตามค่าเริ่มต้น และ – อีกครั้ง – มีเพียง Windows เท่านั้นที่เปิดเผยการตั้งค่าเพื่อเปลี่ยนการแยกนั้น

ผู้ตรวจสอบค้นพบสิ่งนี้ด้วยวิธีที่ยากลำบาก: หลังจากให้ Linux บูต ระบบจะมองเห็นได้เพียง 28GB จาก 128GB การแก้ไขนี้จำเป็นต้องบูตกลับเข้าสู่ Windows โดยลดการสำรองหน่วยความจำ GPU เหลือ 4GB จากนั้นจึงรีบูตเข้าสู่ Linux ซึ่งอาจเห็นพื้นที่ 120GB หากปราศจากทางอ้อม โมเดลขนาดใหญ่ที่พอดีกับเครื่องก็สามารถเข้าถึงได้ง่ายบน Linux

การติดตั้ง Linux ยังคงเป็นการผจญภัย

แม้แต่การเข้าถึง GPU ที่ควบคุมปริมาณก็ไม่ใช่เรื่องเล็กน้อย ความพยายามครั้งแรกของการตรวจสอบกับ Oarchy ซึ่งเป็นการจัดจำหน่ายแบบ Arch ที่รองรับชิปบน Asus และฮาร์ดแวร์ของ Dell อยู่แล้ว ล้มเหลวใน MSI Prestige N16 Flip AI Plus ด้วยจอแสดงผลที่กะพริบและไม่เสถียรระหว่างการบูต การเปลี่ยนไปใช้ Debian ทำงานได้อย่างน่าเชื่อถือมากขึ้นแต่จำเป็นต้องมีวิธีแก้ปัญหาชั่วคราว: ตัวติดตั้งไม่สามารถเชื่อมต่อผ่าน Wi-Fi ได้ โดยต้องใช้อะแดปเตอร์อีเธอร์เน็ต USB และเคอร์เนลวานิลลาที่จัดส่งมาโดยไม่รองรับแป้นพิมพ์ ทัชแพด หรือ GPU ของแล็ปท็อป

การกลับมาที่ Oarchy ช่วยแก้ปัญหาไดรเวอร์ได้ เนื่องจากเคอร์เนลรวมไดรเวอร์โอเพ่นซอร์สของ Nvidia ไว้ด้วย ในช่วงต้นของกระบวนการ เอาต์พุต HDMI ยังปฏิเสธที่จะทำงานระหว่างการติดตั้ง ผู้ตรวจสอบใช้วิธีชี้กล้องภายนอกไปที่หน้าจอภายในของแล็ปท็อปเพื่อติดตามผู้ติดตั้ง เมื่อกำหนดค่าแล้ว ระบบสุดท้ายจะรันเดสก์ท็อปเต็มรูปแบบที่ 4K และ 120Hz พร้อมเสียง คีย์บอร์ด ทัชแพด และการเร่งความเร็ว CUDA ที่ใช้งานได้

เหตุใดจึงสำคัญสำหรับนักพัฒนา AI ในท้องถิ่น

แพลตฟอร์ม RTX Spark จัดส่งในเครื่องต่างๆ รวมถึง MSI Prestige, Asus ProArt และ Dell XPS ทั้งหมดใช้การออกแบบ GPU แบบเดียวกับหน่วยเดสก์ท็อป DGX Spark ของ Nvidia แต่มีความแตกต่างที่สำคัญคือ DGX Spark มาพร้อมกับ Linux ของ Nvidia ที่สร้างมาตั้งแต่แกะกล่อง ในขณะที่แล็ปท็อปทุกรุ่นมาพร้อมกับ Windows บน ARM เครื่องมือ AI ท้องถิ่นที่จริงจังส่วนใหญ่ — vLLM, SGLang — ถูกสร้างขึ้นบน Linux ก่อน ซึ่งเป็นเหตุผลว่าทำไมนักพัฒนาที่ซื้อเครื่องเหล่านี้จึงต้องการ Linux บนเครื่องเหล่านี้

การตรวจสอบสรุปว่า WSL เป็นคำตอบที่ใช้งานได้จริงในปัจจุบัน โดยขับเคลื่อนสแต็กไดรเวอร์ Windows, เพิ่ม GPU เต็มรูปแบบไม่ว่าจะเสียบปลั๊กหรือใช้แบตเตอรี่ และยังคงใช้เครื่องมือ AI ที่ใช้ Linux เป็นหลัก Native Linux ยังคงเป็นโปรเจ็กต์งานอดิเรก — ใช้งานได้จริง แต่ทิ้งประสิทธิภาพที่โฆษณาของฮาร์ดแวร์ส่วนใหญ่ไว้บนโต๊ะ

การแก้ไขที่แท้จริงขึ้นอยู่กับ Nvidia ที่ย้ายลอจิกการจัดการพลังงานของตัวควบคุมแพลตฟอร์มไปยังไดรเวอร์ Linux จนกว่าจะเป็นเช่นนั้น บทวิจารณ์ระบุว่าแล็ปท็อปไม่สามารถเป็นสิ่งที่ผู้ซื้อต้องการให้เป็นได้: DGX Spark แบบพกพา Nvidia ไม่ได้แสดงความคิดเห็นต่อสาธารณะเกี่ยวกับการค้นพบนี้หรือส่งสัญญาณไทม์ไลน์สำหรับการสนับสนุน Linux สำหรับนักพัฒนาที่กำลังตัดสินใจระหว่างแล็ปท็อปเหล่านี้กับหน่วยเดสก์ท็อป สถานะปัจจุบันของเฟิร์มแวร์นั้นเป็นข้อแม้ที่สำคัญ เอกสารข้อมูลจำเพาะระบุว่า 2 GHz แต่บน Linux มีเพียง Windows เท่านั้นที่รู้ว่าจะขอมันอย่างไร

---

ก้าวนำหน้า AI

รับข่าวสาร AI การวิเคราะห์ และความก้าวหน้าล่าสุด ทั้งหมดในที่เดียว

อ่านข่าว AI เพิ่มเติม →