推理时出现复读（重复输出）怎么办？

一句话速记：调 repetition penalty / 频率惩罚、用 top-p 采样代替贪心，并从数据和训练上消除重复模式。

解码

同章节的其他八股

• 大模型幻觉的成因和缓解方法？
• 大模型常用的评测基准有哪些？
• LLM-as-a-Judge 有哪些偏差？如何缓解？
• 如何检测评测集的数据污染？
• 困惑度（PPL）是什么？有什么局限？
• BLEU 和 ROUGE 的区别？为什么大模型评测很少用它们？
• 大海捞针测试测的是什么？有什么不足？
• 什么是越狱攻击？如何防御？
• 大模型水印技术的原理？