01实验LLM / Agent2026年10月13日4 分钟KV Cache 预算:并发、上下文与块大小用可复算的字节公式估算长上下文服务容量,并解释分页的尾部浪费与容量边界。KV Cache容量规划模拟阅读
02实验嵌入式经验2026年10月11日3 分钟RISC-V 数据移动模型:核心数何时失去意义用峰值算力、有效带宽和算术强度估算 many-tiny-core 推理的真正瓶颈。RISC-VRooflineDMA阅读
03实验LLM / Agent2026年10月9日3 分钟推理预算实验:Best-of-N 的收益与拐点用独立采样模型评估候选数、验证器精度和单次成本,观察可靠性何时开始不划算。Best-of-N推理预算验证器阅读