Instrument / riscv-roofline

增加向量核心或 NPU 峰值算力,何时会被数据移动抵消?

当每字节只能提供少量运算时,更多核心不会改善性能;软件基线、数据复用与内存层级必须同步设计。

回到 RISC-V AI 研究档案

Interactive model / software simulation

RISC-V 数据移动模型

比较算力、带宽和算术强度,判断 RISC-V 推理负载被哪一侧约束。

LOCAL MODEL
加速器/向量单元峰值
TFLOPS
HBM/SRAM/DDR 的有效带宽
GB/s
每字节执行的运算数
ops/byte
kernel 实际可达峰值比例
%
单次推理的数据规模
MiB
数据移动是主约束;向量算子与 NPU 需要共享的高复用数据流。

带宽拐点

20.83ops/B峰值算力 ÷ 有效带宽

计算侧时间

5.857ms工作集 × 算术强度 ÷ 有效算力

内存侧时间

5.592ms工作集字节 ÷ 有效带宽
EVIDENCE NOTE

Roofline 量级模型;不是特定 RISC-V 板卡的实测。

Primary reading

先读原始来源,再相信模型