Tag route

#KV Cache

3 篇笔记在这个概念下相交。

返回标签索引
01综合研究综合研究6 分钟

从 HBM 到 MCU:一条内存层级主线

把 KV Cache、FlashAttention、端侧模型与存算一体放进同一张数据移动账本,理解 AI 系统的真正成本。

内存层级KV CacheFlashAttention