数据论文速递 · 2026年08月20日

本期速递聚焦大模型训练数据工程的前沿进展，覆盖五个方向：SFT 数据选择的目标模型感知、推理数据难度与模型容量的交互关系、基准污染的内部表征检测、视觉生成的数据缩放定律，以及多语言合成数据的弱项修补策略。这些工作共同指向一个趋势——数据工程正在从”一刀切”走向”因模型而异”。

Data-DPO：面向目标模型的 SFT 数据选择

• 论文信息：Data-DPO: Target Model-Oriented SFT Data Selection via Pairwise Data Preference Optimization，arXiv:2608.16926，2026 年 8 月 19 日
• 核心问题：SFT 数据选择方法通常将数据价值视为静态属性，忽略了数据与目标模型能力分布之间的兼容性。同一批数据对不同模型的收益差异很大。
• 关键发现：Data-DPO 通过一步探针（one-step probing）观察目标模型在不同样本上的局部训练反馈，将激活差异转化为成对数据偏好，训练轻量奖励模型学习”目标模型感知”的数据偏好。最终选择阶段结合目标模型偏好、外部质量分数和边际多样性三个信号。在 Vision-Flan 和 LLaVA-CoT 上的实验表明，Data-DPO 在多种数据预算下一致超越已有数据选择基线，且稳定超过全量数据训练的表现。
• 实践启示：SFT 数据选择应考虑目标模型当前的能力状态。静态质量评分不足以捕捉数据价值，模型自身的训练反馈信号可以转化为更精准的数据偏好。这为”为特定模型定制数据”提供了可行方案。

推理数据选择的效果随模型容量而变

• 论文信息：Capacity-Dependent Effects of Data Selection for Reasoning，arXiv:2608.13721，COLM 2026，2026 年 8 月 13 日
• 核心问题：近期的似然度数据选择方法主张选择与学生模型分布接近的高似然响应，但这个直觉是否在所有模型规模下都成立？
• 关键发现：论文揭示了一个清晰的”快拟合/慢收益”（Fast-Fit / Slow-Gain）模式。高似然度数据为小模型（1.5B）提供更快、更稳定的早期提升，但低似然度数据在大模型（8B）充分训练后变得更有价值。学习动力学分析表明，小模型在吸收低似然度监督时经常失败，转而陷入浅层重复行为；大模型则能在同样数据下向教师分布有效迁移。论文进一步提供了容量约束下的蒸馏理论视角，阐明数据难度、数据跨度和学生容量如何共同控制知识迁移效率。
• 实践启示：推理 SFT 的数据选择策略必须随模型规模调整——小模型喂易数据，大模型喂难数据。一套通用配方不适用于所有规模。数据难度与模型容量的匹配是决定蒸馏效果的关键因素。

Excess Separability：基准污染的表征指纹检测

• 论文信息：Excess Separability: Benchmark Contamination Detection via Residual Stream Geometry，arXiv:2608.12652，2026 年 8 月
• 核心问题：传统基准污染检测依赖输出行为（如困惑度异常），但 RL 后训练会抹平这些信号。如何在模型见过测试题但表面性能无异常的情况下，仍然检测出污染？
• 关键发现：Excess Separability 方法检测 Transformer 残差流中的内部表征几何——当模型训练过某个测试题时，该题的表征向量变得异常容易用线性分类器与未见过题目的表征分离。方法控制了领域、长度、格式等混淆因子，只保留归因于记忆化的”超额可分性”。关键发现是：基准污染可以在残差流中留下指纹，即使表面性能指标完全无法察觉——“表面等价不代表表征等价”。该方法在 RL 后训练后的模型上仍然有效。
• 实践启示：对于开放权重的模型审计，内部表征几何提供了比输出行为更可靠的污染检测通道。模型可能在基准上表现得”正常”，但表征空间已经暴露了记忆化痕迹。这为评估完整性提供了新的检测手段。

Abra：视觉扩散模型的缩放定律

• 论文信息：Abra: Scaling Diffusion Image Training，arXiv:2608.17286，2026 年 8 月 18 日
• 核心问题：计算最优缩放定律指导着前沿语言模型的训练，但在视觉生成领域几乎未被系统探索。扩散模型需要多少数据才能达到计算最优？
• 关键发现：Abra 在三个数量级的计算量（10^19 至 10^22 FLOPs）上训练了一族受控的 flow-matching transformer。核心发现：扩散模型与语言模型一样可预测地缩放，但需要远更多的数据——计算最优发生在约 200 图像 token/参数，是 Chinchilla 对 LLM 建议的 10 倍。与语言模型不同的是，扩散模型对过训练（overtraining）具有鲁棒性，实践者应偏向更多数据而非更大模型。训练曲线坍缩到通用形态，可预测性延伸到生成质量指标、最优 CFG 设置和表征质量。
• 实践启示：视觉生成模型的数据需求量级远超语言模型。200 token/参数的比例意味着一个 3B 参数的扩散模型需要约 600B 图像 token 才能计算最优。“宁多数据不大模型”是扩散模型训练的务实策略。

HOTFIXR：面向多语言弱项的合成数据修补

• 论文信息：LLMs Get Smarter from Targeted Synthetic Multilingual Data，arXiv:2608.15964，2026 年 8 月 16 日
• 核心问题：语言特异性能力（LSC）导致同一语义查询在不同语言下得到不同甚至错误的回答。现有方案要么全部走英语路由（限制语言表达力），要么用语言均衡数据训练（降低整体性能）。如何在不牺牲性能的前提下修补多语言弱项？
• 关键发现：HOTFIXR 框架从数据视角出发，用模型探测学生模型的多语言弱项并生成针对性合成数据。评估覆盖 3 个域内任务、3 个域外任务和 4 个域外语言：域内性能平均提升 6.2%，域外任务灾难性遗忘减少 3.7%，域外语言遗忘减少 7.1%。
• 实践启示：多语言模型的数据修补可以做到”哪里弱补哪里”——先探测弱项，再定向生成。合成数据不仅能提升目标能力，还能通过针对性设计减少微调带来的遗忘问题。