大模型手撕 · 简单 · 反向传播、损失函数
对 logits (N, C) 和标签 targets (N,)，损失为平均交叉熵 L = \frac{1}{N}\sumi -\log\mathrm{softmax}(zi){yi}。返回 \partial L/\partial z，形状 (N, C)。
在 RagCodes 上用 Python / C++ / Java 在线编写并提交，核心代码模式与 ACM 模式均可评测。