文章

高通下一代 Hexagon NPU:为智能体 AI 重构移动计算架构

高通公司高级总监 Cisco Cheng 发文介绍下一代旗舰平台 Hexagon NPU:Element Accelerator 加速单元与大容量共享内存,支持 MoE 与 INT2–FP16 多精度,为终端侧智能体 AI 提供硬件支撑。

一句话总结

高通下一代旗舰移动平台将搭载全新 Hexagon NPU,通过 Element Accelerator 专用加速单元、大容量共享内存、混合专家模型(MoE)支持与 INT2–FP16 多精度覆盖,从硬件架构层面支撑终端侧智能体 AI 的持续运行、多模态推理与低时延响应。

背景:智能体 AI 改变移动计算需求

当 AI 从“一问一答”的对话模式走向持续感知、跨应用协同的智能体阶段,主流架构正从依赖单一庞大模型处理所有任务,转向由多个专用模型组成的系统,根据任务、情境和用户需求进行智能调度。这一转变对移动计算提出新要求:不仅需要更快的 AI 推理能力,还需要面向持续运行、多模态且低时延场景设计的架构。

2026 年 9 月 11 日,高通技术公司产品市场高级总监 Cisco Cheng 发表署名博客文章,介绍下一代骁龙旗舰移动平台将搭载的全新 Hexagon NPU,其核心特性包括 Element Accelerator 与扩展后的大容量共享内存系统。

Element Accelerator:面向 Transformer 的专用加速单元

Element Accelerator 专为生成式 AI 和智能体 AI 的 Transformer 工作负载设计,结合向量计算单元和标量计算单元:向量计算单元负责高吞吐量 AI 数学计算,标量计算单元支持智能体对决策逻辑、路由和编排能力的需求。二者与共享内存组成协同架构,共同加速大模型中的关键运算,帮助智能体提升响应速度和推理效率,同时兼顾移动端能效。

大容量共享内存:缓解内存瓶颈

Hexagon NPU 扩展了大容量共享内存,将多模型状态、上下文信息和 KV-cache 数据存储在更靠近加速器的位置。该设计减少访问外部内存的频次,缓解内存瓶颈,使智能体在处理更长上下文、调用更多工具以及执行并发任务时保持流畅响应,并支持更长的上下文窗口和更快的 token 生成速度。

混合专家模型与多精度支持

Hexagon NPU 面向下一代模型架构设计。高通正与内存和模型厂商合作,引入混合专家模型(MoE)构建终端侧 AI 架构。以一个 300 亿参数的 MoE 模型为例,在保持数百亿参数可用的同时,NPU 每次生成一个词元仅需激活约 30 亿个被路由选中的参数,从而减少实际计算负载和内存带宽需求。

精度支持方面,该平台覆盖 INT2、INT4、INT8、FP8 和 FP16,使开发者能够在性能、内存、模型质量和功耗之间取得平衡。对于基于 INT4 的模型,该平台可实现最高 50% 的预填充性能提升,同时加快解码吞吐速度、增强推测解码,提升每秒词元生成速度。

终端侧智能体 AI 的落地意义

智能体 AI 的核心特征是持续运行和即时响应,这要求计算能力尽可能靠近用户、留在终端侧,而非完全依赖云端。下一代 Hexagon NPU 通过加速单元、共享内存、多精度支持和模型加载机制的协同,使更多智能能力能够在终端运行,同时兼顾响应速度、隐私保护和功耗控制。该技术将随下一代骁龙旗舰移动平台进入消费终端。

数据来源与参考