Astera Labs 瞄准 KV 缓存瓶颈,应对代理式 AI 超出 GPU 内存的挑战
Astera Labs targets the KV cache bottleneck as agentic AI outgrows GPU memory
中文摘要
Astera Labs 在其 Leo 内存控制器产品线中新增三款产品,针对 AI 推理从单次查询转向持续循环运行的代理式 AI 时出现的键值缓存(KV cache)瓶颈问题。原文未披露具体型号、发布时间、地点及供应链影响等细节。
正文内容 · AI翻译
原站正文受订阅限制,Radar 当前只能提供公开标题、摘要和原文入口,无法生成完整译文。