0%
第 3 章实验
请求怎样到来,资源需求与等待如何被改写?
实验
Prefill
230.58 ms
算力墙
下限取两者较大者。较短的一根无论再缩短,只要没超过另一根,总时间就不动。
Decode 合计
1.15 s
带宽墙