KMeans 的流程、缺点和改进?
一句话速记:随机选 K 个中心 → 分配到最近中心 → 更新中心 → 迭代至收敛;对初值和 K 敏感。
经典算法
同章节的其他八股
ReLU、GELU、SwiGLU 有什么区别?大模型为什么偏爱门控激活?
BatchNorm 和 LayerNorm 的区别?为什么 NLP 用 LayerNorm?
Adam 和 AdamW 的区别?
Warmup 的作用是什么?
梯度消失和梯度爆炸怎么解决?
L1 和 L2 正则化有什么区别?
交叉熵损失怎么推导?二分类为什么不用 MSE?
训练中 loss 出现 NaN 怎么排查?
梯度累积的原理是什么?
余弦相似度、点积、欧氏距离有什么关系?