什么是 Chunked Prefill？解决了什么问题？

一句话速记：把长 prompt 的 prefill 切成固定大小的块，每次迭代只算一块，和正在 decode 的请求混在同一个 batch 里。避免一个超长 prefill 把所有 decode 请求卡住（TPOT 抖动），也让每步的计算量更均匀，GPU 利用率更高。

推理、调度

同章节的其他八股

• KV Cache 是什么？显存怎么算？如何优化？
• vLLM 的 PagedAttention 解决了什么问题？
• 什么是 Continuous Batching？
• 投机解码（Speculative Decoding）的原理？
• 大模型量化方法有哪些？GPTQ 和 AWQ 有什么区别？
• Prefill 和 Decode 阶段有什么区别？
• 推理服务的关键指标有哪些？
• Greedy、Beam Search、Top-k、Top-p、Temperature 的区别？
• vLLM、SGLang、TensorRT-LLM 怎么选？
• 知识蒸馏在大模型中怎么做？
• 如何降低推理延迟、提高吞吐量？
• 什么是 PD 分离（Prefill-Decode 分离）？