困惑度(PPL)是什么?有什么局限?
一句话速记:PPL = exp(平均 token 负对数似然),衡量模型对文本的“惊讶程度”,越低越好。
指标
同章节的其他八股
大模型幻觉的成因和缓解方法?
大模型常用的评测基准有哪些?
LLM-as-a-Judge 有哪些偏差?如何缓解?
如何检测评测集的数据污染?
推理时出现复读(重复输出)怎么办?
BLEU 和 ROUGE 的区别?为什么大模型评测很少用它们?
大海捞针测试测的是什么?有什么不足?
什么是越狱攻击?如何防御?
大模型水印技术的原理?