0%
第 8 章实验
如何安排批处理、请求和缓存，提高给定加速器的服务效率？
实验
每输出读取
2.11 GB
读取下界
0.63 ms
粗 TPOT
0.85 ms
粗 TTFT
384.00 ms
权重复用让每输出读取下降，但整批变胖。KV 项 L·k 不随 B 分摊。