从零训练一个 LLM 的完整流程是怎样的?
一句话速记:数据收集清洗 → tokenizer → 预训练 → 中期训练(长上下文/高质量退火)→ SFT → 偏好对齐/RL → 评测 → 部署。
训练流程
同章节的其他八股
LLaMA 系列有哪些关键改进?
Qwen 系列的结构和演进?
DeepSeek-V3 有哪些主要创新?
DeepSeek-R1-Zero 和 R1 有什么区别?
什么是 RLVR?为什么它推动了推理模型的发展?