如何保证数据多样性?
一句话速记:对指令做语义聚类后均衡采样,覆盖任务类型、领域、难度、长度和语言,用 embedding 去近似重复。
数据
同章节的其他八股
如何让大模型稳定输出 JSON?
SFT/预训练数据清洗的流程?
Hugging Face 模型目录里各文件是什么?
Python 中 list、tuple、set、dict、deque、heapq 的时间复杂度?