高通发布新一代Hexagon NPU，面向常驻式智能体AI
高通于9月10日发布新一代Hexagon神经处理单元（NPU），设计目标是在移动设备上持续运行智能体人工智能（AI）。原文未披露具体料号、制程、算力参数、量产时间与代工方，也未提及对元器件供应链的影响。
原文深度解读
本文报道高通于9月10日发布新一代Hexagon神经处理单元（NPU），该NPU用于Snapdragon平台，设计目标是在移动设备上持续运行智能体人工智能（AI）。原文披露的关键信息包括：新增Element Accelerator、共享内存容量提升50%、首次支持混合专家（MoE）架构、可运行最多300亿参数（30B）的MoE模型且每个token仅激活约30亿（3B）路由参数、支持FP16/INT2/INT4/INT8/FP8数据精度、INT4模型预填充性能最高提升50%、响应可在1.5秒内开始，并提及与主要存储厂商和AI模型开发者的合作，以及9月22日至24日在美国举行的Snapdragon Summit将公布更多细节。原文未披露具体料号、制程、代工方与量产时间。与电子元器件供应链的关系主要体现在：NPU架构对共享内存、外部DRAM与NAND闪存的数据搬运和缓存管理提出新要求，可能影响移动平台相关存储与封装环节的规格与需求结构。
- 高通于9月10日发布新一代Hexagon NPU，用于Snapdragon平台，目标是让智能体AI在移动设备上持续运行；原文未给出具体料号、制程、算力参数、量产时间与代工方。
- 新Hexagon引入Element Accelerator，专门面向神经网络Transformer模型工作负载，并与Hexagon原有的标量、向量和矩阵扩展协同，加速大语言模型（LLM）计算，同时帮助维持移动设备的能效。
- Hexagon共享内存容量提升50%，使更多信息保留在处理器内部，减少AI模型状态、激活值和中间张量数据在外部DRAM之间的往返搬运，从而降低传输延迟和数据瓶颈，支持更长的对话上下文和更快的响应与任务切换。
- 新Hexagon首次支持MoE架构，可运行最多300亿（30B）参数的MoE模型，每个token生成时仅激活约30亿（3B）路由参数；架构结合智能NAND闪存到内存的管理与缓存，仅按需将任务所需的专用AI模型从NAND闪存实时加载到DRAM，常用子模型或专家参数保留在缓存中，该技术由高通与主要存储厂商及AI模型开发者合作开发。
- 数据精度支持扩展至FP16、INT2、INT4、INT8和FP8；对INT4模型，覆盖读取提示词与初始计算的预填充性能最高提升50%，生成响应文本的解码吞吐和预测未来token以并行处理的推测解码也有改进，响应可在1.5秒内开始。
- 新Hexagon将与Snapdragon平台其他计算单元更紧密协作：基于高通Oryon核心架构的CPU负责编排多步AI工作流并为NPU准备数据；Adreno GPU将采用基于NPU架构概念的专用加速，实现Adreno Neural Fusion，将AI直接集成到移动游戏图形处理中；高通AI产品管理副总裁Vinesh Sukumar表示新Hexagon NPU为智能体AI奠定基础，下一代旗舰移动平台Snapdragon将让智能体AI体验直接在智能手机上实现，更多细节将在9月22日至24日于美国举行的Snapdragon Summit公布。
供应链影响
- 由于新Hexagon通过提升50%共享内存并减少对外部DRAM的数据搬运，移动平台对DRAM带宽与容量配置的需求结构可能发生变化，具体影响取决于终端厂商如何平衡片上内存与外部存储的搭配。
- 原文提到智能NAND闪存到内存管理与缓存、按需将专用AI模型从NAND闪存加载到DRAM，这可能提升移动设备对NAND闪存性能与容量规格的关注度，并可能影响存储器件在AI手机物料清单中的相对重要性，但实际程度取决于模型部署方式与终端设计。
- 原文称该技术由高通与主要存储厂商及AI模型开发者合作开发，这可能意味着相关存储器件与AI模型生态的协同验证周期成为供应链关注点，具体合作方与供货关系原文未披露。
- 新Hexagon支持最多30B参数MoE模型且每token仅激活约3B参数，若此类模型在移动端普及，可能带动对高带宽、低功耗存储与先进封装的需求变化，但取决于模型压缩、缓存策略与终端散热等实际条件。
- 原文未披露制程、代工方、量产时间与具体料号，因此对晶圆代工、封测与被动元件等环节的短期供应影响尚无法从原文判断，需等待9月22日至24日Snapdragon Summit的进一步信息。
系统解读，仅作为判断线索，不构成备货、出货、涨价或投资建议。
高通发布新一代Hexagon NPU。（图片来源：高通）
高通于9月10日发布其下一代Hexagon神经处理单元（NPU），设计目标是在移动设备上持续运行智能体人工智能（AI）。
高通Hexagon是用于Snapdragon平台的移动NPU。新一代Hexagon引入了Element Accelerator、共享内存增加50%，并首次支持混合专家（MoE）架构。
其关键重点在于优化智能体AI，使其能够理解用户所处情境与上下文，跨多个应用进行推理，并代表用户执行任务。
新增AI加速器并扩展共享内存
Hexagon的共享内存容量增加了50%。（图片来源：高通）
Element Accelerator专门面向神经网络Transformer模型工作负载。Transformer是一种神经网络算法，用于处理词语与数据在上下文中的关系，是生成式AI和智能体AI的骨干。
Element Accelerator与Hexagon的标量、向量和矩阵扩展协同工作。它加速大语言模型（LLM）计算，同时帮助维持移动设备的能效。
Hexagon的共享内存容量增加了50%，使更多信息能够保留在处理器内部。这减少了将AI模型状态、激活值和中间张量数据移入和移出外部DRAM的需求。该设计最大限度降低传输延迟和数据瓶颈，使AI在响应和切换任务更快的同时，能够保留更长的对话上下文。
MoE架构支持最多300亿参数模型
新一代Hexagon支持最多300亿参数的MoE模型。（图片来源：高通）
NPU所处理的AI模型类型也发生了变化。此前的系统使用稠密模型，即由单个大语言模型处理所有任务。新一代Hexagon通过MoE架构连接多个适合特定任务和上下文的专用AI模型。
新一代Hexagon可运行参数多达300亿（30B）的MoE模型。每生成一个token，仅约30亿（3B）路由参数被激活用于计算。
该架构还结合了智能NAND闪存到内存的管理与缓存。只有任务所需的专用AI模型会从NAND闪存实时加载到DRAM，而常用的子模型或专家参数则保留在缓存内存中。
这降低了功耗，并以较低的内存带宽实现大模型级AI性能。该技术是与主要存储厂商和AI模型开发者合作开发的。
新架构扩展数据精度支持
基于INT4的模型预填充性能最高提升50%。（图片来源：高通）
数据精度支持也已扩展。该NPU支持用于高精度计算的16位浮点（FP16），以及2位整数（INT2）、INT4、INT8和FP8格式。
对于基于INT4的模型，覆盖读取提示词并执行初始计算的预填充性能最高提升50%。用于生成响应文本的解码吞吐量，以及通过预测未来token进行并行处理的推测解码，也有所改进。响应可在1.5秒内开始。
新一代Hexagon还将与Snapdragon平台中的其他计算单元更紧密地协作。基于高通Oryon核心架构的中央处理器（CPU）负责编排多步AI工作流，并为NPU保持数据就绪。Adreno图形处理器（GPU）将采用基于NPU架构概念的专用加速。这实现了Adreno Neural Fusion，将AI直接集成到移动游戏图形处理中。
“借助新一代Hexagon NPU，我们为智能体AI奠定了基础，”高通技术公司AI产品管理副总裁Vinesh Sukumar表示。“借助我们的下一代旗舰移动平台Snapdragon，我们将让智能体AI体验直接在智能手机上实现。”更多细节将在9月22日至24日于美国举行的高通Snapdragon Summit上公布。
Qualcomm unveiled its new Hexagon NPU. (Photo: Qualcomm)
Qualcomm unveiled its next-generation Hexagon neural processing unit (NPU) on Sept. 10, designed to keep agentic artificial intelligence (AI) running continuously on mobile devices.
Qualcomm Hexagon is a mobile NPU used in Snapdragon platforms. The new Hexagon introduces an Element Accelerator, 50% more shared memory and support for Mixture-of-Experts (MoE) architectures for the first time.
The key focus is optimizing agentic AI that understands a user's situation and context, reasons across multiple applications and performs tasks on the user's behalf.
Adds AI Accelerator and Expands Shared Memory
Shared memory capacity in the Hexagon has increased by 50%. (Photo: Qualcomm)
The Element Accelerator is specialized for neural-network transformer model workloads. Transformers are neural-network algorithms that process relationships among words and data in context and form the backbone of generative and agentic AI.
The Element Accelerator works alongside Hexagon's scalar, vector and matrix extensions. It accelerates large language model (LLM) computation while helping maintain power efficiency on mobile devices.
Hexagon's shared memory capacity has increased by 50%, allowing more information to remain within the processor. This reduces the need to move AI model state, activations and intermediate tensor data to and from external DRAM. The design minimizes transfer latency and data bottlenecks, allowing AI to retain longer conversational context while responding and switching tasks more quickly.
MoE Architecture Supports Models With Up to 30B Parameters
The new Hexagon supports MoE models with up to 30B parameters. (Photo: Qualcomm)
The type of AI models processed by the NPU has also changed. Previous systems used dense models in which a single large language model handled all tasks. The new Hexagon connects multiple specialized AI models suited to specific tasks and contexts using an MoE architecture.
The new Hexagon can run MoE models with as many as 30 billion, or 30B, parameters. For each token generated, only about 3 billion, or 3B, routed parameters are activated for computation.
The architecture also combines intelligent NAND flash-to-memory management and caching. Only the specialized AI models needed for a task are loaded from NAND flash into DRAM in real time, while frequently used sub-models, or expert parameters, remain in cache memory.
This reduces power consumption and allows large-model-class AI performance with lower memory bandwidth. The technology was developed in collaboration with major memory manufacturers and AI model developers.
New Architecture Broadens Data-Precision Support
Prefill performance for INT4-based models is up to 50% faster. (Photo: Qualcomm)
Support for data precision has also been expanded. The NPU supports 16-bit floating point (FP16) for high-precision computation, as well as 2-bit integer (INT2), INT4, INT8 and FP8 formats.
For INT4-based models, prefill performance, which covers reading a prompt and performing initial computation, is up to 50% faster. Decoding throughput for generating response text and speculative decoding, which predicts future tokens for parallel processing, have also improved. Responses can begin within 1.5 seconds.
The new Hexagon will also work more closely with other compute units in the Snapdragon platform. The central processing unit (CPU), based on Qualcomm's Oryon core architecture, orchestrates multistep AI workflows and keeps data ready for the NPU. The Adreno graphics processing unit (GPU) will adopt dedicated acceleration based on NPU architectural concepts. This enables Adreno Neural Fusion, which directly integrates AI into mobile-game graphics processing.
"With the new Hexagon NPU, we have laid the foundation for agentic AI," said Vinesh Sukumar, vice president of product management for AI at Qualcomm Technologies. "With our next-generation premium mobile platform, Snapdragon, we will enable agentic AI experiences directly on smartphones." Further details will be unveiled at Qualcomm's Snapdragon Summit in the US from Sept. 22 to 24.