从零训练一个迷你 LLM(预训练 → SFT → DPO)

手写 LLaMA 结构,训练 BPE 分词器,完成 0.1B~0.5B 模型的预训练、指令微调和偏好对齐,彻底吃透全流程。

技术栈:PyTorch、FlashAttention、DeepSpeed、wandb

目录