数据工程观察 · Vol.66

数据工程观察 · 2026年07月01日

智能体数据科学家元优化突破、VLM数据策展基准首建、双层自适应数据选择、RL驱动中训练范式革新与Web图结构预训练数据选择

数据工程 自主数据工程 VLM数据策展 数据选择 中训练 Web图结构 合成数据 预训练数据 RL中训练 DataComp

引言

本期关注数据工程的”自主化”与”结构化”两条主线——从智能体数据科学家的元优化，到Web图拓扑驱动的预训练数据选择，数据工程正在从”人设计流程”转向”AI自主发现流程”。Meta FAIR 推出 Autodata，将数据合成升维为可元优化的智能体任务，验证了推理算力可转化为更高质量的训练数据；DataComp-VLM 首次为 VLM 数据策展建立系统基准，6T token 实验揭示”混合胜于过滤”的核心结论；BLADE 将影响力函数的双层优化重构为无 Hessian 的单层目标，实现可扩展的自适应数据选择；ExpRL 用 RL 替代 SFT 做中训练，将参考解答重构为奖励支架而非模仿目标；WebGraphMix 则从 Web 图结构视角发现，中心与边缘节点编码互补能力。数据工程正从”经验炼金术”走向”理论可证+结构可查”的新阶段。

Autodata：智能体数据科学家元优化，推理算力转化为训练数据质量

事件概述

Meta FAIR 团队（Jason Weston、Xian Li 等人）提出 Autodata，一种让 AI 智能体扮演数据科学家、自主创建高质量训练和评估数据的通用方法。核心突破在于”元优化”——不仅让智能体造数据，更通过优化智能体本身来学会造更好的数据。论文于 6 月 24 日提交 arXiv（2606.25996）。

技术细节

  • 核心框架 Agentic Self-Instruct：智能体接收任务描述后，自主规划数据生成策略、执行多步合成、验证数据质量，形成闭环迭代。与经典 Self-Instruct 的关键区别在于，智能体可以动态调整生成策略，而非遵循固定模板。
  • 元优化机制：将数据科学家智能体本身的参数/提示作为可优化对象，使用下游模型性能作为反馈信号，通过元梯度更新使智能体学会生成更有效的训练数据。这一机制将数据合成从”固定流程”升级为”可学习流程”。
  • 实验验证：在计算机科学研究任务、法律推理任务和数学对象推理任务上，Autodata 均超越了经典合成数据集创建方法。更重要的是，元优化带来的性能提升远大于单次智能体生成，证实了”优化造数据的人”比”优化造出的数据”更有效。
  • 范式意义：Autodata 建立了一条”推理算力→数据质量”的转化通道——增加推理计算（更多智能体迭代、更长的元优化），可以直接转化为更高质量的模型训练数据。

对大模型数据工作的影响

Autodata 标志着数据工程从”人类设计流程+AI执行”向”AI自主设计并执行流程”的范式跃迁。元优化的引入意味着数据工程本身成为一种可学习、可迭代的技能，而非纯粹的经验手艺。对于大模型团队，这意味着数据管线可以从静态配置演化为动态自适应系统，特别是在垂直领域适配中，智能体可以自主发现最优数据生成策略，大幅降低领域专家介入成本。该方向可能重塑数据工程的成本结构：推理算力的边际成本远低于人工策展，而元优化可以持续压缩推理算力到数据质量的转化效率。

DataComp-VLM：首个 VLM 数据策展基准，6T token 实验揭示”混合胜于过滤”

事件概述

由图宾根大学、斯坦福、Bethge Lab 等数十家机构联合发布 DataComp for VLMs（DCVLM），首个面向视觉语言模型（VLM）数据策展的系统性基准。团队聚合 160 个数据集构建 6T 多模态 token 语料池，在 1B-8B 模型和 6.25B-200B token 预算下进行受控实验，52 个下游基准覆盖 9 个领域。论文于 6 月 26 日提交 arXiv（2606.28551）。

技术细节

  • 四类数据统一框架：DCVLM 将 VLM 训练数据划分为图文对、多模态交叠文档、纯文本、多模态指令微调四类，每类有独立的质量信号和混合权重。160 个数据源经过统一格式化后汇聚为 6T token 语料池。
  • 核心发现：混合比过滤更关键：在受控消融实验中，数据混合策略（各类型数据的比例分配）对最终性能的影响显著大于数据过滤策略（在类型内筛选高质量样本）。指令密集型混合（instruction-heavy）在规模扩展时优势持续扩大，超越描述密集型混合（caption-heavy）。
  • DCVLM-Baseline 性能：基于实验发现的最佳混合策略，8B VLM 在 200B token 训练后，33 任务核心测试集准确率达 63.6%，比当前 SOTA 开源 VLM 训练数据集 FineVision 高出 +5.4pp。4B 模型在 100B token 上即超过 FineVision 8B/200B 的结果，实现 4 倍计算缩减。
  • 完整开源：数据池、策展代码、评估套件、训练模型全部公开，社区可直接复现和改进。

对大模型数据工作的影响

DCVLM 填补了 VLM 数据策展领域长期缺失的”DataComp 式”基准空白。此前的 VLM 研究重心在架构和训练配方上，数据被视为二等公民。“混合胜于过滤”的核心结论对工业实践具有直接指导意义：VLM 团队应优先投入数据混合比例的搜索，而非过度精细化单一数据源的过滤管线。4B 模型通过更好的数据混合击败 8B 模型的结果，再次验证了数据工程作为”第一性原理”的地位——数据策略的差距可以跨越模型规模的鸿沟。

BLADE：无 Hessian 双层自适应数据选择，统一影响力方法与超额损失方法

事件概述

来自蚂蚁集团等机构的研究团队提出 BLADE（Bi-Level Adaptive Data sElection），将影响力函数的双层优化目标通过拉格朗日乘子重构为无 Hessian 的单层惩罚目标，从理论上统一了影响力方法与超额损失方法两大范式。论文于 6 月 17 日提交 arXiv（2606.18650）。

技术细节

  • 核心理论贡献：BLADE 证明了影响力方法的双层优化目标可以等价地转化为惩罚单层目标，且该惩罚目标恰好恢复超额损失（excess-loss）的形式——但将静态参考模型替换为与训练同步演化的动态参考模型。这一理论桥接解释了为何超额损失方法在实践中有效但理论上不完整：它们缺少了动态追踪机制。
  • Hessian-free 实现：传统影响力方法需计算逆 Hessian 矩阵（对 LLM 不可行），BLADE 通过拉格朗日对偶消除逆 Hessian，使双层优化在万亿 token 规模下可计算。
  • 在线批量选择算法：使用无记忆的随机块坐标 Frank-Wolfe 算法实现在线批量选择，保证一阶收敛性，适用于训练过程中的动态数据筛选。
  • 实验验证：在多个 LLM 训练场景中一致超越 SOTA 数据选择基线，包括静态过滤、DSIR、DPP 等方法。

对大模型数据工作的影响

BLADE 的理论贡献大于工程贡献：它从优化理论层面统一了数据选择两大范式，揭示了”动态参考模型”是超额损失方法缺失的关键组件。对工业实践的启示是，数据选择不应使用固定的预训练模型作为质量锚点，而应让参考模型随训练进程持续更新，从而始终精准识别”当前模型最需要的数据”。在万亿 token 预训练场景中，BLADE 提供了理论有保证且计算可行的在线数据选择方案。

ExpRL：探索式 RL 替代 SFT 做中训练，参考解答重构为奖励支架

事件概述

Stanford 和 UC Berkeley 等机构的研究者提出 ExpRL（Exploratory RL for LLM Mid-Training），一种用强化学习替代监督微调做中训练的新范式。核心创新是将参考解答从”模仿目标”重构为”奖励支架”——参考解答对策略不可见，仅用于构建评分规则来评判策略自身的推理轨迹。论文于 6 月 15 日提交 arXiv（2606.17024）。

技术细节

  • 奖励支架机制：策略模型从原始问题提示采样推理轨迹，LLM 评判器将采样轨迹与参考解答对比，输出结果级或过程级密集奖励。与稀疏最终答案奖励不同，ExpRL 可以强化部分进展、有效中间推导和有益推理行为。
  • 与 SFT 中训练的本质区别：SFT 中训练让模型记忆特定推理模式，覆盖范围受限于人工标注的技能清单；ExpRL 让模型通过探索自主发现有效推理策略，覆盖范围不受人工先验约束。
  • 实验结果：在数学推理任务上，ExpRL 的 RL 预训练效果强于 SFT、稀疏奖励 GRPO 和自蒸馏，且为后续稀疏奖励 RL 提供更好的初始化。混合域实验进一步表明 ExpRL 可扩展到非数学领域。
  • 中训练范式革新：ExpRL 挑战了”中训练=SFT on 推理轨迹”的主流范式，提出”中训练=RL with 奖励支架”的新范式。

对大模型数据工作的影响

ExpRL 对中训练数据工程提出了根本性重构：如果参考解答不需要被模仿而仅需被”参考”，那么中训练数据的构建成本和方式都将改变。团队无需精心标注完整的推理链，只需提供”评分锚点”（可以是答案、关键步骤标记或评分规则），让模型通过 RL 探索到达这些锚点的路径。这意味着中训练数据从”高质量完整轨迹”降维为”高质量评分信号”，大幅降低了数据标注成本，同时保持了甚至提升了训练效果。对大模型团队而言，ExpRL 提供了一种将现有 QA 数据集转化为中训练数据的新路径。

WebGraphMix：Web 图中心性驱动预训练数据选择，中心与边缘编码互补能力

事件概述

Princeton 大学（Danqi Chen 课题组）研究者提出 WebGraphMix，首次利用 Common Crawl 的主机级 Web 图拓扑结构进行预训练数据选择。研究发现，Web 图中的中心节点（hub）与边缘节点（fringe）编码了互补的能力——中心节点贡献可迁移的抽象知识，边缘节点贡献专业的长尾知识。论文于 6 月 9 日提交 arXiv（2606.11499）。

技术细节

  • 图结构数据选择：计算 Common Crawl 主机级 Web 图的结构中心性分数（如 PageRank），据此调整中心与边缘文档在预训练混合中的比例。整个流程无需模型训练、标注数据或下游监督信号，在大规模 Web 数据上高效运行。
  • 核心假说与验证：中心主机（如 Wikipedia、大型新闻站点）暴露模型于可复用抽象，边缘主机（如小众技术博客、专业领域站点）编码特殊化长尾知识。实验证实两者互补——中心文档在事实知识和通用理解上更强，边缘文档在符号推理和专业化任务上更优。
  • 混合策略：中心与边缘 1:1 混合达到 41.4% 平均分（vs. 均匀采样 39.8%），将结构中心性分数与文档级质量分类器分数结合进一步提升至 43.8%。
  • 与内容方法的正交性：Web 图结构信号与现有基于内容的数据选择方法（质量分类器、领域标签等）编码了不同维度的信息，两者结合带来增量提升。

对大模型数据工作的影响

WebGraphMix 开辟了预训练数据选择的全新维度——从”文档说什么”扩展到”文档在信息生态中的位置”。此前所有数据选择方法（质量分类器、困惑度过滤、领域混合）都基于文档内容特征，忽略了文档间的结构关系。Web 图拓扑提供了一个零成本（无需额外训练或标注）、可扩展（直接在已有 URL 网络上计算）、且与内容方法正交的新信号源。对工业实践的启示是，预训练语料的策展应同时考虑内容质量和结构位置，特别是在长尾知识覆盖方面，边缘节点可能是被系统性低估的宝库。