数据论文速递 · Vol.40

数据论文速递 · 2026年5月20日

本期聚焦数据受限时代的五大关键议题：合成数据如何突破有机语料利用瓶颈、RL后训练中的在线数据选择、数据约束下的实用缩放定律、自主数据工程框架，以及物理推理基准的数据污染审计。

论文速递 arXiv 数据合成 数据选择 缩放定律 数据工程 数据污染 预训练数据 RL训练 基准审计

引言

当大模型预训练从算力受限（compute-bound）转向数据受限（data-bound），数据工程正在成为决定模型能力天花板的核心变量。本期速递精选 5 篇近期论文，覆盖数据合成、在线数据选择、缩放定律、自主数据工程与基准污染审计五大方向——从如何榨干有限有机语料的最后一滴价值，到如何确保我们看到的评测分数不是”泄漏”的幻象，这些工作共同指向一个核心命题：数据质量与利用效率的每一个百分点的提升，都直接转化为模型能力的增益。

SynPro：从有机数据生成预训练 token，突破数据受限缩放瓶颈

  • 论文信息：Generating Pretraining Tokens from Organic Data for Data-Bound Scaling · arXiv:2605.17849

  • 核心问题：LLM 预训练正进入数据受限时代，可用的人类原创（organic）文本远不足以支撑持续缩放。但数据受限并不意味着模型已经充分利用了现有语料——简单重复训练对有机数据的利用效率极低。如何在有限有机语料的基础上，生成比重复训练更有效的训练 token？

  • 关键发现：作者提出 SynPro 框架，通过改写（rephrasing）和重格式化（reformat）两种操作，将同一有机源数据以多样化形式呈现，实现更深层学习而不引入外部信息。两个生成器均通过强化学习优化，奖励信号包括质量、忠实度和数据影响力。关键在于：生成器随预训练进展持续更新，当模型进入平台期时，自动聚焦于模型尚未吸收的内容。实验表明，在仅使用 Chinchilla 最优 token 数 10% 的极端数据受限场景下，SynPro 释放的有效 token 数是简单重复训练的 3.7–5.2 倍，1.1B 规模甚至超越了使用等量独立数据训练的非数据受限上限。

  • 实践启示：数据受限场景下，不应被动重复使用有机语料，而应主动合成”忠实变体”——前提是合成必须忠于原始信息且针对模型当前薄弱点。这为”如何在数据不够时继续缩放”提供了可操作的工程路径。

Learning-Zone Energy：面向 RL 后训练的在线数据选择

  • 论文信息：Learning-Zone Energy: Online Data Selection for Efficient RL Post-Training · arXiv:2605.17003

  • 核心问题：当前 GRPO、DAPO 等 RL 后训练方法将 rollout 和梯度预算近乎均匀地分配给所有 prompt，大量算力浪费在模型已经掌握或远超当前能力的问题上。如何在线地筛选出最值得训练的数据？

  • 关键发现：作者提出 Learning-Zone Energy（LZE），一个理论驱动的在线数据选择框架。其核心是定义了一个闭式 Learning-Zone Energy 分数，融合三个互补信号：初始难度锚定、归一化结果不确定性和通过率动量，形成一个与组相对策略梯度更新幅度对齐的标量。配合前向剪枝器与回放机制，跳过已掌握 prompt 的 rollout 生成，同时周期性检测遗忘。在 Qwen 系列（1.5B–8B）上的实验显示：LZE 每步仅保留 40% 训练数据，即可匹配甚至超越全数据基线，在 OOD 泛化上尤其突出（AIME25 +45.9%、AMC23 +18.2%），同时节省约 36% 训练 FLOPs。

  • 实践启示：RL 后训练不是”数据越多越好”——精准定位模型的学习前沿（learning zone）比均匀覆盖更高效。LZE 的三分量打分机制可以直接集成到现有 GRPO/DAPO 训练流程中，作为即插即用的数据过滤器。

Practical Scaling Laws：数据约束世界中的实用缩放定律

  • 论文信息：Practical Scaling Laws: Converting Compute into Performance in a Data-Constrained World · arXiv:2605.09189

  • 核心问题：Chinchilla 缩放定律 L = E + A/N^α + B/D^β 在数据丰富、单 epoch 预训练场景下表现良好，但存在三个结构性缺陷：当独立数据缩小时损失发散而非饱和到基线、无法表示容量超过数据时的过拟合、混淆了总样本数与独立样本数。如何构建一个在数据受限、多 epoch 场景下仍然可靠的缩放定律？

  • 关键发现：作者提出闭式扩展 L(N, D, T) = E + (L₀ - E)·h/(1+h)，其中 h = a/N^α + b/T^β + c·N^γ/D^δ，将损失分解为欠容量、欠训练和过拟合三个项。该公式在不可约损失 E 和信息基线 L₀ 之间自然饱和，在数据丰富单 epoch 极限下退化为 Chinchilla 形式。在四个多 epoch 实验（MLP、ResNet、FNO、Transformer，覆盖视觉、科学 ML 和语言领域）及五个已发表 LLM 缩放定律网格上验证，外推到更大算力和更多独立数据时，RMSE 在所有已发表 LLM 网格上达到 SOTA。一旦校准，该公式支持成本感知的算力分配：当数据免费时退回 Chinchilla 最优，当数据昂贵时转向更少独立数据和更多 epoch。

  • 实践启示：这是一个”拿来即用”的缩放定律——只需少量小规模实验拟合参数，即可预测大模型在数据受限场景下的最优训练配置（模型大小、独立数据量、epoch 数的联合优化）。对于低资源语言和垂直领域的预训练规划尤为实用。

DataMaster：迈向自主数据工程

  • 论文信息：DataMaster: Towards Autonomous Data Engineering for Machine Learning · arXiv:2605.10906

  • 核心问题：随着模型架构、训练方案和算力预算日趋标准化，ML 系统的进一步增益越来越依赖数据侧。然而数据工程仍高度依赖人工：从业者反复搜索外部数据集、适配管线、通过下游训练验证候选数据、从先验尝试中积累经验。能否让 AI Agent 自主完成数据工程？

  • 关键发现：作者提出 DataMaster，一个任务驱动的自主数据工程框架，在固定学习算法的条件下，仅优化数据侧（包括外部数据发现、选择与组合、清洗与变换）。DataMaster 包含三个核心组件：DataTree 组织替代性数据工程分支的树状搜索；共享 Data Pool 存储已发现的外部数据源供复用；Global Memory 记录节点结果、产物和可复用发现。在 MLE-Bench Lite 上，DataMaster 将奖牌率提升了 32.27%；在 PostTrainBench 上，GPQA 得分超越指令模型（31.02% vs 30.35%）。

  • 实践启示：DataMaster 展示了”以数据为中心”的优化范式——不修改模型代码，仅通过系统化的数据搜索、变换和组合即可显著提升下游表现。其树状搜索 + 跨分支记忆的架构设计，可复用于任何需要迭代数据优化的场景（如预训练数据配方搜索、SFT 数据选择等）。

Physics-R1：物理推理基准的数据污染审计

  • 论文信息：Physics-R1: An Audited Olympiad Corpus and Recipe for Visual Physics Reasoning · arXiv:2605.14040

  • 核心问题：当前多模态物理推理评测中存在三种被忽视的系统性问题——训练-评估数据污染、翻译漂移和选择题格式膨胀——它们如何扭曲我们对模型推理能力的判断？

  • 关键发现：作者端到端审计了多模态物理评测管线，揭示了三个关键问题：(1) 公开训练池（UGPhysics-Train、SciInstruct、MMK12）通过单阶段 5-gram Jaccard 审计零命中，但三阶段审计（Jaccard → 嵌入余弦相似度 → LLM 判断）仅在 SciInstruct 中就检测出 134 个近重复和 4,846 个复述候选；(2) 翻译显著降低模型对同一物理题的正确率——爱沙尼亚语 vs 英语配对奥赛题上，Sonnet 4.5 差距达 17 个百分点（30.5% vs 13.6%）；(3) 选择题格式使分数虚高 46 个百分点（MCQ 79.7% vs 开放式 33.4%）。作者发布四个数据产物：PhysCorp-A（6,432 条三阶段审计语料）、PhysR1Corp（2,268 条 RL 训练池）、PhysOlym-A（500 道高新颖度奥赛评测题，99.8% 新源）以及 Physics-R1 参考配方。

  • 实践启示：这项工作给数据从业者敲了警钟——传统的单阶段去重远远不够，近重复和复述式污染在现有流程中几乎不可见。对于任何涉及训练数据与评测数据交叉验证的场景，三阶段审计流程（哈希去重 → 嵌入相似度 → LLM 语义判断）应成为标准实践。此外，选择题格式的巨大虚高提醒我们：评测方式本身就是数据工程的一部分。