AMD发布面向代理式AI的CPU中心Helion AI机架
AMD于10月12日在美国加州圣何塞举行的开放计算项目(OCP)全球峰会上宣布推出Helion,这是一款面向人工智能(AI)数据的计算基础设施设计。该设计以CPU为中心,面向代理式AI(Agentic AI)场景。原文未披露具体型号、产能、价格或供应链影响等信息。
原文深度解读
本文报道AMD于10月12日在美国加州圣何塞举行的开放计算项目(OCP)全球峰会上发布Helion——一款面向代理式AI(Agentic AI)数据中心、以CPU为核心的计算基础设施设计。文章对比了Helion与以GPU为主的Helios平台,说明Helion可支持大规模AI代理同时运行,并给出两种机架配置:面向大型数据中心运营商的纯CPU配置(单机架最多32,768核,基于AMD第六代EPYC Venice服务器CPU)和企业级CPU+GPU混合配置(搭配Instinct MI350P GPU,单机架最多16块GPU)。Helion还集成token路由器,并作为开放参考设计而非成品服务器提供,支持风冷与液冷,已有Cisco、Dell、HPE、Lenovo、Supermicro等八家服务器厂商开发相关系统,计划11月上市。与电子元器件供应链的关系在于:该设计将AI数据中心算力需求从GPU扩展至CPU,可能影响服务器CPU、GPU、内存、电源与散热等环节的需求结构,但原文未披露具体型号、产能、价格或供应链影响等信息。
- AMD于10月12日在加州圣何塞OCP全球峰会上发布Helion,定位为面向代理式AI(Agentic AI)数据中心、围绕CPU构建的计算基础设施设计。
- Helion与AMD现有Helios平台形成对比:Helios组合大量GPU,而Helion设计用于同时运行大量AI代理。
- AMD认为AI代理的普及使AI数据中心算力需求从GPU扩展至CPU,因为AI代理不仅调用大语言模型(LLM),还会反复执行程序并访问数据库,这些任务需要大量CPU资源。
- Helion配置可随客户需求变化:面向大型数据中心运营商的配置仅用CPU、不含GPU,单机架最多支持32,768核,基于AMD第六代EPYC Venice服务器CPU;该配置中Helion负责AI代理执行,AI模型推理请求则发送至单独安装的GPU系统,从而与Helios等大型GPU机架协同、各司其职。
- 企业级配置在同一机架内结合CPU与GPU,将AMD EPYC CPU与Instinct MI350P GPU配对,同时处理AI代理执行与模型推理,单机架最多支持16块GPU。
- Helion集成token路由器,可将AI代理请求导向最新高性能模型或开源模型;AMD称将部分请求路由至企业自有服务器上运行的开源模型、而非全部发送至昂贵的外部高性能模型,可降低AI运营成本。
供应链影响
- 若Helion按计划在11月推出并由八家服务器厂商开发相关系统,服务器CPU、GPU、内存、电源与散热等环节的需求结构可能随客户采用纯CPU或CPU+GPU配置而变化。
- 纯CPU配置单机架最多32,768核,可能提升对服务器CPU及相关主板、内存与供电组件的相对需求,但实际影响取决于客户部署规模与配置选择。
- 企业级配置单机架最多16块Instinct MI350P GPU,可能使GPU需求与CPU需求在同一机架内并存,具体取决于企业客户对代理执行与模型推理的负载分配。
- Helion作为开放参考设计并支持风冷与液冷,可能影响数据中心散热与基础设施相关组件的选型,但取决于客户在现有数据中心内的实际安装方式。
- token路由器将部分请求导向企业自有服务器上的开源模型,可能改变对外部高性能模型算力及相关硬件采购的依赖程度,但取决于客户对成本与性能的权衡。
系统解读,仅作为判断线索,不构成备货、出货、涨价或投资建议。
AMD发布面向代理式AI的以CPU为核心的Helion AI机架
AMD发布了AMD Helion,一种面向代理式人工智能(AI)的计算基础设施设计。(来源:AMD)
AMD于10月12日在加利福尼亚州圣何塞举行的开放计算项目(OCP)全球峰会上宣布,已发布Helion,一种面向人工智能(AI)数据中心、围绕中央处理器(CPU)构建的计算基础设施设计。
与现有组合大量图形处理器(GPU)的Helios平台不同,Helion设计用于同时运行大量AI代理。
AMD表示,AI代理的普及正在将AI数据中心的算力需求从GPU扩展至CPU。AI代理不只是调用大语言模型(LLM);它们还会反复执行程序并访问数据库。该公司表示,这些任务需要大量CPU资源。
Helion配置可根据客户需求而变化。一种面向大型数据中心运营商的配置仅使用CPU,不含GPU。它可在单个机架内容纳最多32,768个核心,基于AMD第六代EPYC Venice服务器CPU。
在这种配置中,Helion负责AI代理执行,而AI模型推理请求则发送至单独安装的GPU系统。这使Helion能够与Helios等大型GPU机架协同工作,每个系统承担不同角色。
如图所示,AMD的Helion可配置为两种主要机架设计。(来源:AMD)
一种企业级配置在单个机架内结合CPU与GPU。它将AMD EPYC CPU与Instinct MI350P GPU配对,以在一个系统内同时处理AI代理执行和模型推理。该机架最多可容纳16块GPU。
Helion还集成了一个token路由器,可将来自AI代理的请求导向最新高性能模型或开源模型。AMD表示,将部分请求路由至运行在公司自有服务器上的开源模型,而不是将每个请求都发送至昂贵的外部高性能模型,可以降低AI运营成本。
AMD将以开放参考设计而非成品服务器产品的形式提供Helion。该设计基于OCP标准,允许客户根据自身需求调整CPU核心数和功耗。它同时支持风冷和液冷,可安装于现有数据中心。包括Cisco、Dell Technologies、HPE、Lenovo和Supermicro在内的八家服务器制造商正在开发相关系统。
AMD计划于11月推出Helion。(来源:AMD)
AMD表示,将把Helion规范贡献给OCP。由服务器厂商开发的系统计划于11月上市。
AMD has unveiled AMD Helion, a computing infrastructure designed for agentic artificial intelligence (AI). (Source: AMD)
AMD announced on Oct. 12 at the Open Compute Project (OCP) Global Summit in San Jose, California, that it has unveiled Helion, a computing infrastructure design for artificial intelligence (AI) data centers built around central processing units (CPUs).
Unlike its existing Helios platform, which combines large numbers of graphics processing units (GPUs), Helion is designed to run large numbers of AI agents simultaneously.
AMD said the spread of AI agents is expanding computing demand in AI data centers beyond GPUs to CPUs. AI agents do more than call large language models (LLMs); they repeatedly execute programs and access databases. These tasks require substantial CPU resources, the company said.
Helion configurations can vary according to customer requirements. A configuration designed for large data center operators uses CPUs alone, without GPUs. It can accommodate up to 32,768 cores based on AMD’s sixth-generation EPYC Venice server CPU in a single rack.
In this configuration, Helion handles AI agent execution, while requests for AI model inference are sent to separately installed GPU systems. This allows Helion to work alongside large GPU racks such as Helios, with each system serving a distinct role.
AMD’s Helion can be configured in two main rack designs, as shown. (Source: AMD)
An enterprise configuration combines CPUs and GPUs in a single rack. It pairs AMD EPYC CPUs with Instinct MI350P GPUs to handle both AI agent execution and model inference within one system. The rack can accommodate up to 16 GPUs.
Helion also integrates a token router, which directs requests from AI agents to either the latest high-performance models or open-source models. AMD said that routing some requests to open-source models running on a company’s own servers, rather than sending every request to expensive external high-performance models, can reduce AI operating costs.
AMD will offer Helion as an open reference design rather than a finished server product. Based on OCP standards, the design allows customers to adjust CPU core counts and power consumption to their needs. It supports both air and liquid cooling, enabling installation in existing data centers. Eight server makers, including Cisco, Dell Technologies, HPE, Lenovo, and Supermicro, are developing related systems.
AMD plans to launch Helion in November. (Source: AMD)
AMD said it would contribute Helion specifications to the OCP. Systems developed by server vendors are scheduled to become available in November.