高通首席执行官表示,最大的人工智能公司正在向他提出当前智能手机无法做到的事情:到 2028 年,在手机上连续运行 1000 亿个参数的模型。

Cristiano Amon 在 10 月 8 日接受《财富》杂志报道并于本周被 TOKENPOST 和 Startup Fortune 等媒体转载的采访中表示,多家人工智能公司(他拒绝透露这些公司的名字)正在推动开发能够让 1000 亿个参数模型全天候运行的智能手机。对于关注人工智能从云端转移到口袋和手腕的读者来说,这是迄今为止最明确的需求信号,我们的人工智能硬件新闻部分跟踪了下一步的发展方向。

需求来自人工智能实验室,而不是高通的路线图

这个数字很重要,因为它来自哪里。阿蒙并没有宣布高通自己的产品目标;他正在转达人工智能实验室告诉世界上最大的移动芯片制造商他们想要建造的东西。如今的旗舰芯片远远低于这个数字——高通最高端的移动平台 Snapdragon 8 Elite Extreme Gen 6 可以在设备上运行超过 300 亿个参数的专家混合模型,上下文窗口大约有 32,000 个令牌。

不间断运行的 1000 亿个参数模型是上限的三倍多,它改变了工程问题的本质,而不仅仅是程度。正如 Startup Fortune 的报告指出的那样,我们的要求并不是提供人们已经使用的助手的更大版本。它适用于代理人工智能:代表用户观察、推理和行动的软件,而不是等待提示,这意味着模型必须驻留在内存中,并整天在后台进行推理,而不会耗尽电池或底盘。

为什么内存是瓶颈

300亿和1000亿参数之间的差距从根本上来说是一个内存问题。设备上的模型权重必须存在于 RAM 中,参数数量增加两倍,同时保持推理持续运行,内存带宽和功耗需求也成倍增加,而当前的旗舰硬件在设计上从未考虑过这种情况。

阿蒙承认,智能手机的存储芯片供应正面临“暂时的限制”——同样的短缺导致今年整个行业的手机价格上涨——但他将其视为压力,将迫使芯片设计更加高效,而不仅仅是增加内存。这与高通最近的芯片选择相一致:8 Elite Extreme Gen 6 将其 Hexagon NPU 与新的 Element 加速器和更大的共享内存池配对,专门用于控制设备上混合专家推理的延迟和功耗。

必须弥合差距的芯片

高通目前的旗舰产品——基于 2nm 工艺打造的 Snapdragon 8 Elite Gen 6 和 8 Elite Extreme Gen 6——预计将为 Honor、iQOO、摩托罗拉、OnePlus、OPPO、Redmi、RedMagic、vivo 和小米等 2027 年的旗舰手机提供动力,三星 Galaxy S27 等顶级设备预计将采用该芯片。如果要满足人工智能行业 2028 年的愿望,这个芯片周期以及之后的芯片周期就必须提供内存架构、散热和电池效率,以保持前沿规模模型在衬衫口袋中的活力。

据《财富》报道,阿蒙还表示,高通正在与几乎所有主要人工智能厂商合作开展未公开的硬件项目,包括手机以外的设备类别。这与该公司最近将 Snapdragon 芯片定位为边缘人工智能的默认推理层的态度是一致的,无论它落在哪里——手机、汽车、个人电脑和眼镜。

持续的设备端人工智能实际上意味着什么

如果人工智能公司得到了他们所要求的,那么这种变化将是结构性的,而不是表面上的。全天在后台运行的模型可以观察上下文、预测需求并采取行动,而无需往返数据中心,这意味着更低的延迟、更好的隐私性,并且没有每次查询的云成本。这还意味着,在内存价格已经捉襟见肘的市场上,手机将比当今的旗舰手机配备更大、更快、更耗电的内存。

这里可以应用健康的怀疑态度。芯片高管之前曾对设备上的人工智能做出过大胆的预测,而 2028 年已经足够遥远,这一说法在一定程度上可以作为与内存供应商、手机制造商和人工智能实验室本身的谈判立场。但请求的方向值得注意:人工智能公司这次并不要求更快的云 GPU。他们需要一款永不停止思考的手机。

无论高通的客户是在 2028 年或更晚推出该设备,需要关注的瓶颈不是参数,而是每瓦内存带宽。在雷蒙德、圣地亚哥或台北解决这个问题的公司将拥有旗舰手机的下一个定义。

保持人工智能领先地位

芯片大战、模型发布和边缘人工智能突破——无需大肆宣传。

阅读更多人工智能新闻 →