DeepSeek-V3 有哪些主要创新？

一句话速记：MLA + DeepSeekMoE（无辅助损失均衡）+ MTP + FP8 混合精度训练 + DualPipe，用约 280 万 H800 卡时训练 671B 模型。

DeepSeek

同章节的其他八股

• LLaMA 系列有哪些关键改进？
• Qwen 系列的结构和演进？
• DeepSeek-R1-Zero 和 R1 有什么区别？
• 什么是 RLVR？为什么它推动了推理模型的发展？
• 从零训练一个 LLM 的完整流程是怎样的？