Qwen2.5:Qwen2.5 Technical Report

技术报告 · Qwen Team

将预训练扩展至18T tokens并结合离线DPO与在线GRPO两阶段对齐,实现从端侧到72B全尺寸基准性能大幅提升。

arXiv:2412.15115