DPO:Direct Preference Optimization
NeurIPS 2023 · Stanford
把 RLHF 的 KL 约束奖励最大化问题转化为一个简单的分类损失,无需奖励模型和强化学习。
arXiv:2305.18290