英伟达发布面向智能体AI的Vera CPU机架规范
英伟达于10月12日发布Vera CPU机架规范,首次推出以中央处理器(CPU)为核心的服务器机架设计,该规范针对智能体AI进行优化。
原文深度解读
本文报道英伟达于10月12日发布Vera CPU机架规范,首次推出以CPU为核心的服务器机架设计,面向智能体AI工作负载优化。文章涉及英伟达、戴尔、Supermicro、Quanta等服务器制造商,以及开放计算项目(OCP)的Open DC Initiative。关键数字包括MGX 1.2支持19英寸机架设备、单机架最高250千瓦(kW)功耗。与电子元器件供应链的关系在于:该规范基于第三代MGX模块化参考架构,整合计算、网络、电源和冷却系统,并引入机架级液冷,可能影响服务器相关元器件、电源与散热部件的需求结构和标准化方向。
- 英伟达于10月12日发布Vera CPU机架规范,首次推出以CPU为核心的服务器机架设计,并针对智能体AI工作负载进行优化。
- 原文称智能体AI高度依赖CPU计算;在其架构下,基于GPU的Vera Rubin NVL72机架负责传统大语言模型(LLM)训练和推理,而Vera CPU机架用于处理智能体AI工作负载。
- Vera CPU机架基于英伟达第三代MGX架构;MGX是英伟达提供给服务器制造商的模块化数据中心服务器参考规范,戴尔、Supermicro和Quanta等合作伙伴使用该架构设计和制造自有服务器产品。
- Vera CPU机架将计算、网络、电源和冷却系统整合到一个通用模块化平台中,服务器制造商可在设计特定用途专用服务器时共享同一基础设施资源。
- 英伟达还表示,已将其Vera Rubin机架和抽屉式计算托盘的设计提交给开放计算项目(OCP)的Open DC Initiative,这些设计基于MGX 1.2,即其第三代MGX规范的更新版本;OCP是将成员提交的设计作为通用规范共享的行业组织。
- 英伟达称该举措旨在帮助服务器制造商基于Vera Rubin开发下一代AI工厂基础设施并更快推向市场;MGX 1.2兼容19英寸服务器机架设备,支持单机架最高250千瓦(kW),并引入机架级液冷,标准化互连、可重构输入/输出(I/O)插槽和无风扇计算托盘可减少组装和维护时间。
供应链影响
- 由于Vera CPU机架基于MGX模块化参考规范并整合计算、网络、电源和冷却系统,服务器制造商可能共享同一基础设施资源,从而可能影响相关服务器零部件的标准化程度和采购模式。
- MGX 1.2支持单机架最高250 kW并引入机架级液冷,可能推动服务器散热相关部件向液冷方向调整,但具体影响取决于服务器制造商采用该规范的速度和规模。
- 标准化互连、可重构I/O插槽和无风扇计算托盘可能改变服务器组装和维护环节对部分连接器、I/O模块和风扇类部件的需求结构,但实际影响取决于基于该规范的产品落地情况。
- 英伟达将Vera Rubin机架和抽屉式计算托盘设计提交给OCP Open DC Initiative,可能加快服务器制造商基于Vera Rubin开发下一代AI工厂基础设施,从而可能影响相关元器件供应链的配套节奏。
- 戴尔、Supermicro和Quanta等合作伙伴使用MGX架构设计制造自有服务器产品,若其跟进Vera CPU机架规范,可能影响这些厂商服务器产品中CPU、电源、冷却和网络相关元器件的配置方向,但取决于其具体产品规划。
系统解读,仅作为判断线索,不构成备货、出货、涨价或投资建议。
英伟达首次将其Vera Rubin AI计算平台的设计向业界开放。(图片来源:英伟达)
英伟达于10月12日发布Vera CPU机架规范,首次推出以中央处理器(CPU)为核心的服务器机架设计。该规范针对智能体人工智能(AI)工作负载进行优化。
据英伟达称,智能体AI高度依赖CPU计算。在其架构下,基于图形处理器(GPU)的Vera Rubin NVL72机架负责传统大语言模型(LLM)训练和推理,而Vera CPU机架则用于处理智能体AI工作负载。
Vera CPU机架基于英伟达第三代MGX架构。MGX是英伟达提供给服务器制造商的模块化数据中心服务器参考规范。包括戴尔、Supermicro和Quanta在内的合作伙伴使用MGX架构设计和制造自己的服务器产品。
Vera CPU机架将计算、网络、电源和冷却系统整合到一个通用模块化平台中。服务器制造商可以在为特定用途设计专用服务器时共享同一基础设施资源。
英伟达还表示,已将其Vera Rubin机架和抽屉式计算托盘的设计提交给开放计算项目(OCP)的Open DC Initiative,这些设计基于MGX 1.2,即其第三代MGX规范的更新版本。OCP是一个行业组织,将其成员提交的设计作为通用规范共享。
该公司表示,该举措旨在帮助服务器制造商基于Vera Rubin开发下一代AI工厂基础设施,并更快将其推向市场。
MGX 1.2兼容19英寸服务器机架设备,支持单机架最高250千瓦(kW)。它还引入了机架级液冷。英伟达表示,标准化互连、可重构输入/输出(I/O)插槽和无风扇计算托盘可减少组装和维护时间。
Nvidia has opened the designs of its Vera Rubin AI computing platform to the industry for the first time. (Photo: Nvidia)
Nvidia unveiled its Vera CPU Rack specification on Oct. 12, introducing a server rack design centered on central processing units (CPUs) for the first time. The specification is optimized for agentic artificial intelligence (AI) workloads.
According to Nvidia, agentic AI relies heavily on CPU computing. Under its architecture, the graphics processing unit (GPU)-based Vera Rubin NVL72 rack handles traditional large language model (LLM) training and inference, while the Vera CPU Rack is designed to process agentic AI workloads.
The Vera CPU Rack is based on Nvidia’s third-generation MGX architecture. MGX is a modular reference specification for data center servers that Nvidia provides to server manufacturers. Partners including Dell, Supermicro and Quanta use the MGX architecture to design and manufacture their own server products.
The Vera CPU Rack integrates computing, networking, power and cooling systems into a common modular platform. Server manufacturers can share the same infrastructure resources while designing dedicated servers for specific purposes.
Nvidia also said it submitted designs for the Vera Rubin rack and drawer-style compute trays based on MGX 1.2, an updated version of its third-generation MGX specification, to the Open Compute Project’s (OCP) Open DC Initiative. OCP is an industry organization that shares designs submitted by its members as common specifications.
The company said the initiative is intended to help server manufacturers develop next-generation AI factory infrastructure based on Vera Rubin and bring it to market more quickly.
MGX 1.2 is compatible with 19-inch server rack equipment and supports up to 250 kilowatts (kW) per rack. It also introduces rack-level liquid cooling. Nvidia said standardized interconnects, reconfigurable input/output (I/O) slots and fanless compute trays reduce assembly and maintenance time.