数据工程观察 Vol.101

本周数据工程领域呈现一条清晰主线：合成数据的质量保障从”事后清洗”走向”过程内嵌验证”。从 Reasoning Core 的三阶段审计框架、CyberForge 的动态验证闭环、PRISM 的四阶段结构化合成，到 Data Turnstile 的分步验证反馈循环，“验证即生成”正在成为数据合成方法论的新范式。与此同时，多模态预训练的物理法则研究为数据配比提供了实证指导，标志着预训练数据工程从经验驱动迈向原理驱动。

Reasoning Core：程序化推理数据不止于”生成正确”，更要”训练有效”

arXiv:2608.05148 | Damien Sileo, Valentin Lacombe, Dimitri Kachler | 2026-08-05

Reasoning Core 收录 50 个程序化生成器，覆盖数学、逻辑、规划、状态追踪、形式语言、结构化数据、游戏、因果推理和代码九大领域，每个生成器配备语义评分器、难度控制和任务评估器。在匹配的 completion-supervised 协议下，与 Procedural Warmup、Reasoning Gym、SynLogic 三套程序化数据集进行对比，Reasoning Core 在 3B 模型上取得 DROP、LogiQA 和 ARC-Challenge 最高均值。

数据工程启示：本文最值得关注的并非生成器数量，而是其核心发现——语义正确性 ≠ 训练效用。任务级分析表明，许多语义有效的样本对训练提升甚微，原因在于目标过于松散或难度未校准。这直接挑战了”只要生成数据正确就能用”的朴素假设。此外，作者运行了结合模型辅助审查、人工裁决和回归测试的审计流程，不仅应用于 Reasoning Core，还应用于所有对比集合，发现生成、渲染、目标和评分之间存在微妙的不匹配——这提醒我们，程序化生成本身并不保证正确性，审计是不可省略的工程环节。

代码与数据集已开源：GitHub | HuggingFace

CyberForge：验证式安全数据合成——“漏洞注入”也能做数据工程

arXiv:2608.06471 | Amine Lbath, Manan Suri, Aurelien Delaitre, Vadim Okun, Massih-Reza Amini, Ram D. Sriram, Dinesh Manocha | 2026-08-06

CyberForge 向真实 C/C++ 项目注入漏洞，生成仓库级安全训练数据。每个实例通过动态验证：注入版本必须通过项目单元测试，生成的 PoV（漏洞验证程序）必须在注入版本上触发且在干净版本上不触发。最终产出 1034 个经验证漏洞，覆盖 80 个项目和 63 个弱点类别，编辑局部性与真实 CVE 补丁在真实噪声底线内不可区分。微调后，SEC-bench 补丁修复提升 +3.3 至 +14.7 分，31B 学生模型达到 GPT-5.4-mini 教师水平（72.7% vs 74.0%），且泛化到 PatchEval 跨语言场景。

数据工程启示：CyberForge 的核心贡献在于验证闭环的设计——不是”生成→过滤”的离线清洗，而是”注入→构建→验证→PoV 确认”的在线闭环。每个数据点必须通过三重约束（构建通过、PoV 触发、PoV 不误触发），这比传统 CVE 数据增强的”有即用”范式更具可扩展性。对数据工程团队的启示是：在安全等高可靠性领域，数据质量保障应从”事后评分”转向”过程约束”，让验证条件成为数据生成流程的一部分而非附加检查。

PRISM：10K 样本如何让多模态模型学会”优先级感知”

arXiv:2608.05249 | Xiaomin He, Dongling Xiao, Jiahao Xie, Ruiqi Lu, Qianle Wang, Zhongbin Guo, Wanxuan Sun | 2026-08-05（v2: 2026-08-07）

PRISM 关注一个被忽视的多模态数据问题：现实指令通常包含多个不同优先级的要求，但现有训练数据将其简化为单一问答。PRISM 提出四阶段数据合成框架：persona-task 配对 → 前缀引导规则集 → 质量过滤评分规则 → 结构化验证轨迹。配套 PRISM-Eval 评测集使用确定性匹配（Loose/Strict 两档），无需推理时评判模型。仅用 10K 合成样本，PRISM 将 Qwen3-VL-4B 的 Strict 准确率从 9.5% 提升至 30.1%，且增益在四个额外开源 MLLM 上迁移（涵盖 dense 和 MoE 架构）。

数据工程启示：PRISM 的四阶段合成管线展示了结构化数据合成的价值——不是端到端生成，而是分阶段引入结构约束（persona、规则前缀、质量过滤、验证轨迹）。这种”分阶段约束”与 Reasoning Core 的”难度校准”和 CyberForge 的”验证闭环”形成方法论共鸣：数据合成的关键不是”生成多少”，而是”在哪个环节引入什么约束”。此外，10K 样本即实现显著提升，对数据工程团队意味着优先级感知能力的瓶颈在数据质量而非数量。

多模态预训练的”物理法则”：5% 算力也能训出强模型

arXiv:2608.05000 | Junlin Han, Shengbang Tong, David Fan, Minghao Chen, Philip Torr, Filippos Kokkinos, Mike Lewis | 2026-08-05（v2: 2026-08-06）

本文通过系统实验揭示多模态预训练的四条”物理法则”：(i) 知识流：语言、视觉理解和视觉生成之间的知识迁移模式存在显著不对称性；(ii) 协同 vs 竞争：数据”复杂度”决定模态间是协同还是竞争，共享注意力 + 模态特化 FFN 的架构选择促进协同；(iii) 早期统一：从头开始联合训练优于后期对齐或顺序训练，延迟集成会引发”视觉惰性”现象（模型依赖语言先知）；(iv) 配方：5% 计算预算即可实现强生成性能。核心发现最终在 13.5B MoE 模型、2T tokens 规模上验证。

数据工程启示：这是本周最直接影响预训练数据工程实践的论文。“视觉惰性”现象的发现对数据配比有直接指导意义——如果视觉模态引入过晚，模型会走”语言捷径”而非真正学习视觉表征。这要求数据工程团队在预训练数据规划中确保视觉数据从训练早期就参与，而非作为后期的”对齐补充”。5% 算力配方则意味着，中小团队可以通过精心设计的数据配比和架构选择，在不拥有超大规模算力的情况下训练出有竞争力的多模态模型。项目页面：junlinhan.github.io

Data Turnstile：小模型函数调用的”数据质量即瓶颈”解法

arXiv:2607.29250 | Goutham Ramakrishnan, Megha Sharma (Amazon AGI) | 2026-07-31

Data Turnstile 是 Amazon AGI 推出的开源框架，接收用户定义的 API 规范，生成高质量函数调用合成训练数据。核心创新在于将多轮工具交互分解为受约束的分步生成过程，每步生成后立即验证，发现错误立即反馈——验证内嵌于生成流程而非事后追加。在 BFCL 单轮基准上，Qwen3-0.6B（无 CoT）达到 75.9%（vs 基线 67.4%），逼近 3× 大的 Qwen3-1.7B（78.4%）；在 τ²-bench 多轮基准上，Qwen3-1.7B 达到 31.1%（vs 基线 6.6%），超越 19× 大的 Qwen2.5-32B-Instruct（27.4%）。数据集覆盖 1000+ API 和 100K+ 多轮交互。

数据工程启示：Data Turnstile 的”分步验证”设计呼应了本周的主线——与其事后清洗海量合成数据，不如在生成过程中就把错误截住。对函数调用这类结构约束明确的任务，参数类型、必填字段、调用顺序都可以用规则验证，不一定需要模型自判。框架已开源，团队可基于自身 API 规范定制数据生成。值得注意的是，验证环节会增加生成延迟，对离线微调场景无碍，但对实时数据生成场景需评估延迟成本。