手写 LLaMA 结构,训练 BPE 分词器,完成 0.1B~0.5B 模型的预训练、指令微调和偏好对齐,彻底吃透全流程。
技术栈:PyTorch、FlashAttention、DeepSpeed、wandb