#PagedAttention

分页式 KV Cache：把推理服务写成内存分配器

从 PagedAttention 的块表、共享与连续批处理出发，理解高并发推理为何首先是一场 KV 显存管理问题。