大模型手撕 · 中等 · Attention、推理优化、KV Cache
自回归生成时，每一步只输入一个新 token，复用之前缓存的 K / V。实现多头注意力的单步解码：
在 RagCodes 上用 Python / C++ / Java 在线编写并提交，核心代码模式与 ACM 模式均可评测。