跳到内容

5 章实验

算子融合

如何组织执行,少搬、少提交、少等待?

实验

算子融合

额外 HBM 流量 0 B。融合不改变渐近 FLOPs,只改变 R。

0.02 ms

带宽墙

读取 R/β100%
计算 F/Π0%

下限取两者较大者。较短的一根无论再缩短,只要没超过另一根,总时间就不动。

返回这一章