残差连接为什么有效？Transformer 里去掉会怎样？

一句话速记：y = x + F(x) 让梯度有一条恒等通路直达底层，几十上百层也不会梯度消失；每层只需要学「增量」，初始化时接近恒等映射，优化容易。去掉残差，深层 Transformer 基本训不动。

残差

同章节的其他八股

• 为什么现在的大模型几乎都是 Decoder-only 架构？
• Pre-Norm 和 Post-Norm 有什么区别？大模型为什么用 Pre-Norm？
• RMSNorm 相比 LayerNorm 有什么优势？
• SwiGLU 是什么？为什么 FFN 隐藏层是 8/3 d？
• 如何估算一个 7B 模型的参数量、训练显存和推理显存？
• BPE、WordPiece、Unigram 三种分词算法有什么区别？
• 为什么很多模型要共享输入 embedding 和输出层权重（tie embeddings）？
• MoE 的原理、优势和训练难点？
• Dropout 在大模型预训练中还用吗？
• 大模型训练出现 loss spike（损失突刺）怎么办？
• 讲一下 Transformer 的整体结构和数据流。
• Encoder-only、Decoder-only、Encoder-Decoder 各适合什么任务？