Q、K、V 为什么要用三个不同的矩阵？能不能 Q = K？

一句话速记：三个投影让「我在找什么（Q）」「我能被谁找到（K）」「被找到后提供什么（V）」解耦。Q = K 时注意力矩阵变成对称的，而且每个 token 对自己的分数天然最高（自己和自己的点积最大），表达能力明显下降。

注意力

同章节的其他八股

• 为什么现在的大模型几乎都是 Decoder-only 架构？
• Pre-Norm 和 Post-Norm 有什么区别？大模型为什么用 Pre-Norm？
• RMSNorm 相比 LayerNorm 有什么优势？
• SwiGLU 是什么？为什么 FFN 隐藏层是 8/3 d？
• 如何估算一个 7B 模型的参数量、训练显存和推理显存？
• BPE、WordPiece、Unigram 三种分词算法有什么区别？
• 为什么很多模型要共享输入 embedding 和输出层权重（tie embeddings）？
• MoE 的原理、优势和训练难点？
• Dropout 在大模型预训练中还用吗？
• 大模型训练出现 loss spike（损失突刺）怎么办？
• 讲一下 Transformer 的整体结构和数据流。
• Encoder-only、Decoder-only、Encoder-Decoder 各适合什么任务？