什么是越狱攻击？如何防御？

一句话速记：用角色扮演、编码、多轮诱导等方式绕过安全对齐；防御靠对齐训练 + 输入输出过滤 + 红队测试。

安全

同章节的其他八股

• 大模型幻觉的成因和缓解方法？
• 大模型常用的评测基准有哪些？
• LLM-as-a-Judge 有哪些偏差？如何缓解？
• 如何检测评测集的数据污染？
• 推理时出现复读（重复输出）怎么办？
• 困惑度（PPL）是什么？有什么局限？
• BLEU 和 ROUGE 的区别？为什么大模型评测很少用它们？
• 大海捞针测试测的是什么？有什么不足？
• 大模型水印技术的原理？