Arm呼吁为代理式AI建立机架级CPU基准，声称性能达AMD两倍
英国半导体IP公司Arm于10月15日表示，已开发出一套面向代理式人工智能（AI）的全新中央处理器（CPU）基准测试框架，并声称其性能达到AMD的两倍。该框架针对机架级CPU评测，涉及Arm与AMD在AI服务器CPU领域的对比。
原文深度解读
本文主题是Arm于10月15日发布面向代理式AI（agentic AI）的全新CPU基准测试框架，并声称其自研AGI CPU在机架级任务吞吐量上约为AMD第五代EPYC Turin 9755的两倍。涉及主体包括Arm、AMD、Fujitsu、Meta、OpenAI以及分析机构Signal65。关键数字包括10月15日、约两倍任务吞吐量、AGI CPU于3月发布。与电子元器件供应链的关系在于：该框架针对机架级CPU评测，涉及AI服务器CPU选型与服务器机架设计，可能影响AI服务器CPU及相关服务器硬件的需求结构。
- Arm于10月15日表示已开发出面向代理式AI的新CPU基准测试框架，并获得Fujitsu、Meta和OpenAI的支持。
- 该框架旨在评估真实世界代理式AI工作负载及整个计算过程中的性能。
- Arm声称，在新框架下，其AGI CPU每机架任务吞吐量约为AMD第五代EPYC Turin 9755服务器CPU的两倍；测量由分析机构Signal65应Arm要求进行。
- AGI CPU于3月发布，是Arm首款内部设计的服务器CPU，并与Meta联合开发。
- 原文指出，AI代理会反复调用外部工具、检索数据并执行代码直至任务完成；GPU负责模型推理，CPU负责工具调用、数据移动和任务调度，随着代理数量增加，CPU工作负载也随之增长。
- 新框架评估内容包括：对外部应用、数据库和服务的调用及数据处理；复杂任务分解与执行组织的推理和规划；创建隔离代码执行环境（沙箱）所需时间；完成真实世界编码任务和在命令行界面（CLI）环境中操作的能力。
供应链影响
- 若该基准框架被更广泛采用，AI服务器CPU的选型标准可能从传统CPU基准和模型推理指标转向代理式AI工作负载，从而可能影响服务器CPU的供应链需求结构。
- Arm声称其AGI CPU每机架任务吞吐量约为AMD第五代EPYC Turin 9755的两倍，这可能影响云服务商和服务器厂商在机架级设计中对CPU供应商的评估，但实际影响取决于第三方验证和部署规模。
- Meta计划在下一代开放服务器机架设计Yosemite YV5中采用Arm AGI CPU，这可能带动相关服务器机架、配套芯片和组件的需求变化，但取决于该机架设计的实际部署时间和规模。
- 随着代理式AI应用增加，CPU在工具调用、数据移动和任务调度中的负载可能上升，这可能改变AI服务器中CPU与GPU的配比和机架级硬件配置，但取决于实际工作负载的演变。
- Fujitsu、Meta和OpenAI对该框架的支持可能推动代理式AI基准在行业内的采用，进而可能影响服务器CPU的评测与采购标准，但取决于其他厂商和客户的跟进程度。
系统解读，仅作为判断线索，不构成备货、出货、涨价或投资建议。
Arm的AGI CPU使用新的代理式AI基准测试框架进行评估。（照片：Arm）
英国半导体知识产权（IP）公司Arm于10月15日表示，它已开发出一套面向代理式人工智能（AI）的全新中央处理器（CPU）基准测试框架，并获得了Fujitsu、Meta和OpenAI的支持。
该公司表示，该框架旨在评估真实世界的代理式AI工作负载以及整个计算过程中的性能。
Arm声称，在新框架下，其AGI CPU每机架的任务吞吐量约为AMD第五代EPYC Turin 9755服务器CPU的两倍。测量由分析机构Signal65应Arm的要求进行。AGI CPU于3月发布，是Arm首款内部设计的服务器CPU，并与Meta联合开发。
与回答一个问题后便停止的聊天机器人不同，AI代理会反复调用外部工具、检索数据并执行代码，直到任务完成。GPU负责模型推理，而CPU负责工具调用、数据移动和任务调度。随着代理数量的增加，CPU工作负载也会增长。Arm表示，传统的CPU基准测试和模型推理指标无法捕捉这些性能需求。
新框架评估的工具包括：对外部应用、数据库和服务的调用以及数据处理；用于分解复杂任务和组织执行的推理与规划；创建隔离代码执行环境（即沙箱）所需的时间；以及完成真实世界编码任务和在命令行界面（CLI）环境中操作的能力。
Meta还将在其下一代开放服务器机架设计Yosemite YV5中采用Arm的AGI CPU。
Arm's AGI CPU evaluated using the new agentic AI benchmarking framework. (Photo: Arm)
British semiconductor intellectual property (IP) company Arm said on Oct. 15 that it has developed a new central processing unit (CPU) benchmarking framework for agentic artificial intelligence (AI), with support from Fujitsu, Meta and OpenAI.
The company said the framework is designed to evaluate real-world agentic AI workloads and performance across the entire computing process.
Arm claimed its AGI CPU delivered approximately twice the task throughput per rack of AMD's fifth-generation EPYC Turin 9755 server CPU under the new framework. The measurements were conducted by analyst firm Signal65 at Arm's request. The AGI CPU, unveiled in March, is Arm's first internally designed server CPU and was jointly developed with Meta.
Unlike chatbots that respond to a question and stop, AI agents repeatedly invoke external tools, retrieve data and execute code until a task is completed. GPUs handle model inference, while CPUs manage tool calls, data movement and task scheduling. As the number of agents increases, CPU workloads also grow. Arm said conventional CPU benchmarks and model inference metrics fail to capture these performance demands.
The new framework evaluates tooling, including calls to external applications, databases and services and data processing; reasoning and planning for breaking down complex tasks and organizing execution; the time required to create isolated code execution environments, or sandboxes; and the ability to complete real-world coding tasks and operate in command-line interface (CLI) environments.
Meta is also adopting Arm's AGI CPU in its next-generation open server rack design, Yosemite YV5.