字节 大模型算法面经（一面）

暑期实习 · 2026-10

聚焦大模型对齐算法（DPO/PPO/GRPO）、奖励建模、多模态模型理解及Transformer底层实现

• 一面 · 八股：对比DPO、PPO和GRPO的核心思想与优化目标
• 一面 · 八股：解释奖励函数坍缩现象的成因及缓解方法
• 一面 · 项目：区分离线与在线强化学习范式，并说明个人项目采用的范式及依据
• 一面 · 手撕：二维矩阵版接雨水（one-hot编码下100×100网格）
• 一面 · 八股：推导GRPO目标函数并解释其中clip后仍取均值的设计动机
• 一面 · 八股：分析Qwen2.5-VL与Llama系列在多模态架构和训练策略上的关键差异
• 一面 · 场景：多目标奖励函数存在冲突时的建模与优化策略
• 一面 · 八股：阐述Transformer中QKV注意力计算的数学过程与物理意义
• 一面 · 手撕：手写多头自注意力（MHA）模块的完整实现（含mask、softmax、dropout等关键步骤）