前向 KL 和反向 KL 有什么区别？各用在哪？

一句话速记：前向 KL(p‖q) 要求 q 覆盖 p 有概率的所有地方，倾向于「摊开」（mode-covering）；反向 KL(q‖p) 惩罚 q 在 p 很小的地方放概率，倾向于「抓住一个峰」（mode-seeking）。SFT/MLE 是前向 KL，RLHF 的 KL 约束和 on-policy 蒸馏用反向 KL。

损失函数、KL

同章节的其他八股

• ReLU、GELU、SwiGLU 有什么区别？大模型为什么偏爱门控激活？
• BatchNorm 和 LayerNorm 的区别？为什么 NLP 用 LayerNorm？
• Adam 和 AdamW 的区别？
• Warmup 的作用是什么？
• 梯度消失和梯度爆炸怎么解决？
• L1 和 L2 正则化有什么区别？
• 交叉熵损失怎么推导？二分类为什么不用 MSE？
• 训练中 loss 出现 NaN 怎么排查？
• 梯度累积的原理是什么？
• 余弦相似度、点积、欧氏距离有什么关系？
• KMeans 的流程、缺点和改进？
• Xavier 初始化和 Kaiming 初始化有什么区别？大模型怎么初始化？