数据工程观察 · 2026年08月02日

引言

今天（8 月 2 日）是 EU AI Act 对全球大模型训练数据供应链影响最深远的日期之一：Article 50 透明度义务与 GPAI 模型执法权同步生效，训练数据摘要公开与版权合规策略从”行业自律”升级为”法律强制”。同日，华为 openPangu-2.0-Pro 以 34T tokens 训练规模开源、大晓机器人联合南洋理工发布 L5 级具身数据集 ACE-Data-0、LAION eV 推出全流程可复现 Agentic SFT 数据集——训练数据的合规成本、质量标准与工程化范式正在同时经历深刻重构。

---

EU AI Act Article 50 与 GPAI 执法权今日生效：训练数据合规进入强制时代

事件概述

2026 年 8 月 2 日，EU AI Act 两项关键条款正式生效：（1）Article 50 透明度义务——要求 AI 系统交互披露与合成内容机器可读标记；（2）GPAI 模型执法权激活——EU AI Office 可对训练数据超过 10²³ FLOPs 的通用模型提供商进行调查、要求提供技术文档与训练数据摘要，违规罚款最高全球年营收 3%。

技术细节

• Article 50(1)：AI 系统与人交互时须披露 AI 身份，适用于聊天机器人、虚拟助手等；AI Agent 场景明确纳入监管范围
• Article 50(2)/(4)：生成式 AI 系统的合成输出（文本/图像/音频/视频）须以机器可读格式标记，已有系统宽限期至 2026 年 12 月 2 日
• Article 53/55：GPAI 模型提供商须公开训练数据摘要（training data summary）与版权合规策略（copyright compliance policy），robots.txt/opt-out 信号获法律效力
• Article 99：罚款最高 3% 全球年营收；提供不完整或误导性信息最高 1%
• 高风险系统（Annex III）合规期限已被 Digital Omnibus 延期至 2027 年 12 月，但 GPAI 透明度义务未被延期

对大模型数据工作的影响

这是训练数据合规的分水岭时刻。此前训练数据摘要公开与版权策略属于行业自律范畴（如 Anthropic 自愿发布训练数据卡片），现在变为法律强制义务。对数据工程的直接影响包括：（1）训练数据溯源与文档化从”可选”变为”必需”，数据管线须保留可审计的来源记录；（2）合成数据标记要求与 EU 水印标准对齐，影响合成预训练/中训练数据的发布流程；（3）opt-out 信号获法律效力，意味着预训练数据管线须实现 robots.txt 解析与尊重机制。继 Anthropic 15 亿美元版权和解、Cloudflare 爬虫分流之后，这是第三重信号：预训练数据的总成本正在从边际成本走向固定合规成本。

---

华为 openPangu-2.0-Pro 开源：34T tokens 训练数据国产最大规模

事件概述

7 月 31 日，华为正式开源 openPangu-2.0-Pro 模型权重、基础推理代码及技术报告。该模型为 505B MoE 架构（激活参数 18B），训练数据总量约 34T tokens，基于昇腾 NPU 训练，支持 512K 上下文长度。

技术细节

• 模型架构：MLA 注意力 + DSA/SWA 独立分层混合（1:2 配比），4 支流 mHC 残差拓扑，3 头 MTP 自投机
• 优化器：Muon，替代 AdamW 实现更快收敛
• 训练数据：约 34T tokens，具体数据构成与配比技术报告未完全披露
• 后训练：快慢合一 SFT + 多专项 RL + 在线蒸馏（OPD）能力合一
• 开源组件：6 月 30 日已开源 92B 参数 openPangu-2.0-Flash，本次 Pro 版补齐旗舰模型；后续计划开源预训练代码、后训练代码与训练算子

对大模型数据工作的影响

34T tokens 训练规模使其成为国产开源模型中训练数据量最大的模型之一（对比：Kimi K3 约 40T→20T 等效、DeepSeek-V3 约 14.8T）。值得关注的是，技术报告未完全披露训练数据来源构成与配比，这与 EU AI Act 即将要求的训练数据摘要公开义务形成对照——未来国产模型若在欧盟市场部署，数据透明度将成为新的合规门槛。此外，Muon 优化器的采用延续了 Kimi K3 Moon Clip 的趋势，国产大模型正在探索优化器创新以降低对训练数据量的绝对依赖。

---

大晓 ACE-Data-0：L5 级具身数据的”信息密度定律”

事件概述

7 月 31 日至 8 月 1 日，大晓机器人联合南洋理工大学 S-Lab 开源 L5 级多模态具身物理智能数据集 ACE-Data-0（arXiv:2607.28625），提出”具身模型信息密度定律”——具身数据的价值不在于规模堆叠，而在于能否高密度记录真正改变行动结果的信息。

技术细节

• 规模：150 小时数据、1700 万帧视频、200 个任务类别、50 名参与者、7.5 万个交互片段
• 数据分级体系：L1-L2（基础预训练）→ L3-L4（已知任务拟合）→ L5（泛化/反思/进化），ACE-Data-0 首次达到 L5 级
• 多模态时空对齐：第一人称视频（四路鱼眼+IMU）、多视角第三人称视频、全身与手部运动捕捉、物体六自由度轨迹、多通道音频与触觉信号，全部对齐至同一时间线与空间坐标系
• 两套互补采集系统：桌面尺度（精细手-物交互）+ 房间尺度（长程家庭活动链，20-30 分钟连续记录）
• 三级评测基准：底层信号 → 场景组成要素 → 具身交互理解
• 任务覆盖：原子级人-物交互（倒水/清洗/切割/折叠）、长时序家庭活动链（从冰箱取出→清洗→切配→烹饪→收拾）、人-场景交互（移动/坐下/锻炼/开关家具）

对大模型数据工作的影响

ACE-Data-0 的核心贡献不仅是数据规模，而是提出了一套可量化的具身数据质量标准（L1-L5 分级）。此前具身数据集的”质量”缺乏统一度量，导致不同数据集间难以横向比较。“信息密度定律”的提出类比了 NLP 领域从”数据量”到”数据质量”的认知转变（如 FineWeb-Edu 1.3T token 超越 15T 未筛选数据），为具身智能数据工程提供了可参考的理论框架。多模态时空对齐方案解决了不同传感器独立时钟与采样频率导致的同步偏差问题，这一工程实践对 VLA/世界模型训练具有直接参考价值。

---

LAION eV grug Agentic SFT 数据集：全流程可复现的智能体训练数据标准化

事件概述

7 月 29 日，LAION eV 在 Hugging Face 上线 grug-67b-a2b-agentic-sft-training-data 数据集（7.97 亿 token），面向大语言模型智能体训练与对话指令微调，提供标准化、可溯源、全流程可复现的训练数据支撑。

技术细节

• 规模：77,012 条多轮对话样本，7.97 亿 token 输入缓存
• 数据组成：29 个不同数据组件等权重混合，所有组件取自 Hugging Face 特定 commit 版本快照
• 格式对齐：统一 chat_template.jinja 聊天模板，预生成可直接用于训练的输入 token 缓存
• 训练配置公开：5 个 epoch、批次大小 64、序列长度 32,768 token、训练总步数 1,903 步
• 块状混合采样策略：所有组件权重 1.0，避免数据版本漂移

对大模型数据工作的影响

LAION eV 此前以 LAION-5B 多模态数据集闻名，此次转向 Agentic SFT 数据标志着开源数据社区对智能体训练数据的系统性投入。该数据集的核心价值不在规模（7.97 亿 token 相对较小），而在于全流程可复现性——从数据版本锁定（特定 commit 快照）、格式统一（单一聊天模板）、到训练配置完全公开，任何研究者可以逐字节验证训练过程。这与 EU AI Act 要求的训练数据透明度义务方向一致，为行业提供了可审计数据管线的参考范式。grug 系列还包括 grug-think（10 万条紧凑推理轨迹）和 Grug-12B/35B 模型，形成了”数据-模型-评测”的完整闭环。

---

“Beyond Rephrasing”：书籍级组织结构提升合成中训练数据效果

事件概述

7 月 30 日，arXiv 发表论文”Beyond Rephrasing: Book-Level Organization Improves Synthetic Textbook Data for Mid-Training”（arXiv:2607.28109），通过受控实验证明：合成中训练数据的收益不仅来自生成内容本身，还来自内容是否被组织为连贯的书籍级文档结构。

技术细节

• 数据规模：686K 教科书、32B token，覆盖 15,000+ 学科
• 合成管线：从预训练语料检索源材料 → 聚类为主题单元 → 规划层次化目录 → 组装为完整书籍
• 四组受控对比：
  • Full（完整书籍结构）vs Split（内容相同但每节独立文档）：Full +1.02，分离出”文档包装”效应
  • Full vs RandomConcat（等长但跨书拼接）：Full 仍然领先，排除”文档长度”替代解释
  • Full vs Rephrase（同源独立改写，无聚类/目录/组编）：Full +1.17，验证”结构化合成”的额外价值
• 验证模型：Llama3-8B 上 Full 同样超越 RandomConcat 与 Natural Books

对大模型数据工作的影响

这项研究的核心发现是：合成数据的效果不仅是”内容质量”的函数，更是”内容组织”的函数。此前合成预训练/中训练数据的研究主要关注生成质量（改写风格、信息密度），而本文揭示了文档级别的组织结构（章节层次、主题连贯性）是独立于内容质量之外的增益因子。这对中训练数据设计有直接启示：（1）随机拼接或简单改写无法替代结构化合成；（2）书籍级 TOC 规划可能是合成数据工程中被低估的维度；（3）与 Volume 95 报道的”Beyond Rephrasing”一致，中训练数据的”文档包装”效应值得系统研究。这项工作也为 DataOrchestra（逐例策展编排）的”编排”维度提供了新的实验证据。