数据工程观察 · 2026年07月23日
知识结构驱动合成数据范式革新、具身智能三维对齐数据基座、指令引导数据增强方法论与具身数据工厂模型
引言
本期聚焦合成数据的方法论革新与具身智能数据基础设施突破。两条主线值得关注:一是知识结构驱动的合成数据范式——OntoBook 证明本体(ontology)的图结构本身即可作为预训练信号源,无需依赖大量原始文本,这为”从结构到数据”的合成路径开辟了新方向;二是具身智能数据的物理级对齐——Aligned DexWorld 首次实现时间-空间-动作三维物理对齐,Xiaomi-Robotics-U0 则将模型自身变为数据工厂,两条路径从不同维度回答了具身数据从何而来的根本问题。此外,InstructMixup 为视觉基础模型数据增强提供了新的理论保证。
OntoBook:本体图结构驱动的合成教科书预训练
事件概述
Inria ALMAnaCH 团队提出 OntoBook(arXiv:2607.18927,7 月 21 日),首次将医疗本体(ontology)的图结构直接转化为编码器模型的预训练信号。该方法在三个法语医疗编码基准上取得显著提升,并开源了 130 万条合成医学教科书。
技术细节
OntoBook 采用三阶段管线:
- 本体图随机游走:在医疗本体(CIM-10/CCAM/ATC)的有向图上进行随机游走,捕获层级关系(如疾病→亚型)和因果关系(如糖尿病→肾病),生成结构化路径序列。
- LLM 重构为教科书散文:用 Qwen3-235B 将随机游走路径重写为流畅的医学教科书式文本,保留编码间的结构关系同时具备自然语言可读性。
- 对齐双目标训练:在合成教科书上同时训练 MLM(遮蔽语言建模)和关系预测(编码对之间的关系分类)两个目标,且两个目标共享相同数据。
关键发现:目标对齐是必要条件——当两个目标使用不同数据训练时(非对齐),下游性能退化高达 30 个百分点。这揭示了多任务预训练中数据-目标对齐的因果性:共享数据的两个目标能相互正则化,而数据错位则引入干扰信号。
在三个法语医疗编码基准上,OntoBook 达到 FRACCO +2.5 micro-F1、Distemist-FR +8.0 micro-F1 的提升。开源了 1.3M 合成医学教科书(覆盖 CIM-10、CCAM、ATC 三个本体)和预训练模型检查点。
对大模型数据工作的影响
OntoBook 开创了“从结构到数据”的合成范式——不需要大量原始文本语料,而是将已有的结构化知识(本体/知识图谱)直接转化为预训练>训练信号。这对医疗、法律、金融等拥有成熟本体但缺乏大规模自由文本的领域尤其重要。其”目标对齐”发现对多任务预训练设计具有普遍指导意义:在合成数据上做多任务训练时,确保不同目标看到相同的数据分布比目标本身的设计更关键。
Aligned DexWorld:首个三维物理对齐具身预训练数据集
事件概述
在 WAIC 2026 上,跨维智能正式发布并开源 Aligned DexWorld——全球首个实现时间-空间-动作三维物理对齐的大规模具身预训练数据集,涵盖人类示教、真机遥操作、仿真合成、第一视角等多元数据类型,总计超 200 万条人类与机器人数据样本。
技术细节
Aligned DexWorld 整合了 Droid、AgiBotWorld-Beta、RoboMIND、RH20T、LIBERO、RoboTwin、VITRA 等 7 个主流公开数据集,但核心创新不在数据规模而在深度物理级对齐:
- 空间对齐:统一不同本体的坐标系,让模型观测的三维世界在统一空间下表达;
- 动作对齐:将不同机器人的动作空间映射到统一动作表征,使异构执行器的动作可互通;
- 时间对齐:对齐不同采样频率和控制频率的时间轴,消除时序错位。
为实现 200 万条大规模异构数据的对齐,搭建了人工校准→几何求解→模型辅助→人工核验的闭环标准化流程,每条数据的对齐逻辑均可追溯、可核验、可复现。配套全自动标注流程:先基于运动速度+夹爪状态生成候选片段,再交由 VLM 合并片段、划分子任务、生成文本标注,实现全流程自动化。
对大模型数据工作的影响
Aligned DexWorld 的核心贡献是证明了数据对齐的价值远大于数据规模的堆叠。传统具身数据集仅做格式规整,但跨维的物理级对齐使得模型在三维空间中的观测、决策和执行完全对应互通,从根本上解决”数据多但不可组合”的痛点。这一思路对预训练数据工程具有普遍启示:在多源数据融合中,对齐是比筛选更基础的操作——未对齐的数据无论多大规模,都无法被模型有效利用。其闭环标准化流程也为工业级数据治理提供了可复用的范式。
InstructMixup:指令引导显著区域编辑的数据增强方法论
事件概述
arXiv:2607.19324(7 月 21 日)提出 InstructMixup,一种指令引导的显著区域编辑数据增强方法,通过在单样本内构造标签一致的增强样本,为视觉基础模型(包括 CNN、ViT 和 VLM)的数据增强提供新的理论保证。在 7 个基准上超越 9 种竞争方法。
技术细节
InstructMixup 的核心创新在于将 mixup 的混合区域从”跨样本插值”变为”单样本内编辑”:
- 多尺度显著区域提取:用轻量显著性检测器提取样本的多尺度显著图块;
- 指令引导生成式编辑:用生成式模型对每个图块进行指令引导的编辑(如”将猫的眼睛改为蓝色”),编辑结果缓存后训练时零额外开销;
- 自相似分形注入:以自适应比例向显著区域注入自相似分形结构,增加表征多样性。
理论上,作者推导了 InstructMixup 的二阶近似邻域风险,证明该方法同时实现了:(1) 对生成式编辑的不变性约束;(2) 沿显著扰动方向的曲率抑制。两个预测均经实验验证。
在实例分类、细粒度分类、鲁棒性(腐蚀/遮挡)、校准、迁移和自监督学习等 7 个基准上,InstructMixup 超越 9 种竞争增强方法(包括 Mixup、CutMix、ResizeMix 等),且对 VLM 同样有效。
对大模型数据工作的影响
InstructMixup 代表了数据增强从”无差别全局扰动”到”语义感知局部编辑”的方法论升级。其对大模型训练数据工作的启示在于:(1) 数据增强可以与指令信号对齐——不再是随机的裁剪或混合,而是按语义意图定向修改,这为合成数据的质量控制提供了新手段;(2) 理论可解释性——二阶近似给出了增强操作对损失曲面的显式影响,这使得数据增强从经验选择变为可推演的设计;(3) 对 VLM 的有效性暗示了多模态训练数据增强需要跨模态语义对齐,而非简单的像素级操作。
Xiaomi-Robotics-U0:38B 参数具身数据工厂模型
事件概述
7 月 15 日,小米开源 Xiaomi-Robotics-U0——一个 380 亿参数的多模态自回归具身生成模型。该模型首次将具身场景生成、具身迁移(图像编辑)、机器人交互视频生成三项能力统一到一套架构中,构成完整的”具身数据工厂”流水线。
技术细节
Xiaomi-Robotics-U0 的核心定位是数据生产工具而非端侧部署模型:
- 具身场景生成:文生图方式生成训练场景,为策略模型提供多样化环境;
- 具身迁移:图像编辑方式实现跨场景数据迁移,一张真实场景图可扩展为多种变体;
- 交互视频生成:生成机器人操作视频,直接作为轨迹训练数据。
三项能力拼合后形成完整数据生产链路:场景→迁移→轨迹,所有输出可直接喂给下游策略模型训练,无需人工干预或重新采集。与此前”一个任务一个模型”的具身生成范式不同,U0 在统一自回归架构中串联全部数据生产步骤。
行业测算显示:训练机器人学会一个动作约需 1000-5000 条数据,学会一个多动作任务需 1-2 万条,覆盖某行业 80% 工作需至少 1 亿条——单纯扩大采集规模成本线性上涨。U0 通过可控生成实现数据放大,解决具身智能的数据规模瓶颈。
对大模型数据工作的影响
Xiaomi-Robotics-U0 代表了“模型即数据基础设施”的新范式——不再区分”数据生产”和”模型训练”两个独立阶段,而是用一个生成模型持续为下游策略模型供数。这对预训练数据工程有三个启示:(1) 数据工厂需要统一架构——割裂的生成模型难以规模化,统一自回归架构使数据生产流水线端到端可优化;(2) 可控性比规模更重要——1 亿条随机数据不如 100 万条按任务分布可控生成的数据;(3) 这一范式可推广至其他领域——任何需要大规模结构化数据但采集成本高的场景(医疗影像、工业检测),都可以用”数据工厂模型”替代人工采集。