如何降低推理延迟、提高吞吐量？

一句话速记：延迟靠量化、投机解码、算子融合、TP；吞吐靠连续批处理、PagedAttention、前缀缓存和更大 batch。

部署

同章节的其他八股

• KV Cache 是什么？显存怎么算？如何优化？
• vLLM 的 PagedAttention 解决了什么问题？
• 什么是 Continuous Batching？
• 投机解码（Speculative Decoding）的原理？
• 大模型量化方法有哪些？GPTQ 和 AWQ 有什么区别？
• Prefill 和 Decode 阶段有什么区别？
• 推理服务的关键指标有哪些？
• Greedy、Beam Search、Top-k、Top-p、Temperature 的区别？
• vLLM、SGLang、TensorRT-LLM 怎么选？
• 知识蒸馏在大模型中怎么做？
• 什么是 PD 分离（Prefill-Decode 分离）？
• 什么是算子融合？为什么能加速？