英特尔测试系统内存以缓解AI KV缓存压力
Intel tests system memory to ease AI KV-cache pressure
中文摘要
英特尔在2026年OCP亚太峰会上展示测试，将大语言模型推理中的键值缓存从GPU内存移至系统DRAM，可提高服务吞吐量并支持更多模型。该测试涉及内存架构调整，与半导体供应链中内存产品的需求和应用相关。
正文内容 · AI翻译
原站正文受订阅限制，Radar 当前只能提供公开标题、摘要和原文入口，无法生成完整译文。