希望在 Nvidia RTX Spark 笔记本电脑上摆脱 Windows 的开发人员碰壁了。 MindStudio 发布的一份详细的实践评论发现,虽然 Linux 确实在这些以 AI 为中心的机器上安装和运行(具有 GPU 加速、完整的桌面和工作外围设备),但加密的电源管理固件将 GPU 锁定到其 Windows 时钟速度的大约三分之一,从而在相同的硬件和型号上将本地 AI 推理从每秒 65.4 个令牌压缩到仅 13.9 个。
这与人工智能开发人员销售的确切机器相比,存在近五倍的差距。有关此故事的更多背景信息,请参阅我们正在进行的最新人工智能开发。
基准测试:一种型号,四种配置
该评测对 GPT-OSS-120B 进行了基准测试,这是一个包含 1200 亿个参数的开放模型,适用于笔记本电脑的 128GB 统一内存,有四种配置:
- ARM 上的 Windows(本机): 每秒 65.4 个令牌
- WSL(Windows 内的 Linux): 每秒 65.1 个令牌
- Nvidia DGX Spark(桌面设备): 每秒 61 个令牌
- 本机 Linux(同一台笔记本电脑): 每秒 13.9 个令牌
图案引人注目。 WSL——作为 Windows 之上的子系统运行的 Linux——几乎与本机 Windows 完全匹配。在 Windows 上,桌面级 DGX Spark 比笔记本电脑稍慢,这可能反映了其不同的热分布。但同一台笔记本电脑上的原生 Linux 性能仅相当于 Windows 的五分之一。
加密固件是根本原因
罪魁祸首不是开源 Nvidia 内核驱动程序,它可以工作并提供 CUDA 加速。它是一个仅限 Windows 的组件,称为 Nvidia 平台控制器和框架,用于管理 CPU 和 GPU 之间的电力传输。审查发现该固件没有 Linux 等效项 - 并且其电源表是加密的,因此只有 Windows 驱动程序可以读取它。
实际效果:一旦笔记本电脑插入墙上电源,Linux 上的 GPU 就会锁定到大约 780 MHz,而不是 Windows 上的 2.2 GHz 以上。在电池方面,差异缩小了,但插入式操作正是您期望峰值推理性能的时候,而且正是 Linux 无法提供峰值推理性能的时候。
内存分割问题
时钟速度不是唯一依赖于 Windows 的设置。默认情况下,笔记本电脑的固件为 GPU 保留 128GB 统一内存中的 96GB,并且只有 Windows 公开了更改该分配的设置。
审阅者通过艰难的方式发现了这一点:Linux 启动后,128GB 中只有 28GB 对系统可见。该修复需要重新启动到 Windows,将 GPU 内存预留降至 4GB,然后重新启动到 Linux,然后可以看到 120GB。如果不走这条弯路,原本应该适合机器的大型模型在 Linux 上根本就遥不可及。
安装 Linux 仍然是一场冒险
即便是 GPU 受到限制也并非易事。该评测首次尝试使用 Omarchy(一款基于 Arch 的发行版,已在华硕和戴尔硬件上支持该芯片)在 MSI Prestige N16 Flip AI Plus 上失败,启动期间显示闪烁且不稳定。切换到 Debian 工作更可靠,但需要解决方法:安装程序无法通过 Wi-Fi 连接,需要 USB 以太网适配器,并且附带的普通内核不支持笔记本电脑的键盘、触摸板或 GPU。
返回 Omarchy 解决了驱动程序问题,因为它的内核捆绑了 Nvidia 的开源驱动程序。在此过程的早期,HDMI 输出在安装过程中也无法工作 - 审查者将外部摄像头对准笔记本电脑的内部屏幕,只是为了跟随安装人员。配置完成后,最终系统以 4K 和 120Hz 运行完整桌面,并具有工作音频、键盘、触摸板和 CUDA 加速功能。
为什么这对本地人工智能开发人员很重要
RTX Spark 平台搭载在包括 MSI Prestige、Asus ProArt 和 Dell XPS 在内的机器中,所有机器都使用与 Nvidia 的 DGX Spark 桌面单元相同的 GPU 设计。但有一个关键的区别:DGX Spark 附带 Nvidia 自己的开箱即用的 Linux 版本,而每个笔记本电脑版本都附带 ARM 上的 Windows。许多重要的本地人工智能工具(vLLM、SGLang)都是首先构建 Linux 的,这正是购买这些机器的开发人员希望在其上安装 Linux 的原因。
该评论得出的结论是,WSL 是当今的实际答案:它使用 Windows 驱动程序堆栈,无论是插入电源还是使用电池,都可以保持 GPU 的全面提升,并且仍然运行 Linux 优先的 AI 工具。 Native Linux 仍然是一个业余爱好者项目——功能齐全,但大部分硬件宣传的性能都被搁置了。
真正的修复取决于 Nvidia 将平台控制器的电源管理逻辑移植到其 Linux 驱动程序中。评论指出,在此之前,笔记本电脑无法成为买家想要的样子:便携式 DGX Spark。 Nvidia 尚未对这一发现发表公开评论,也没有给出 Linux 支持的时间表。对于在这些笔记本电脑和台式机之间做出选择的开发人员来说,固件的当前状态是一个重要的警告 - 规格表显示 2 GHz,但在 Linux 上,只有 Windows 知道如何要求它。
---
保持人工智能领先地位获取最新的人工智能新闻、分析和突破——尽在一个地方。
阅读更多人工智能新闻 →