研究提案 已修订

面向自主科学智能体的沿袭感知轨迹数据工程：从经验累积到自进化训练

提出沿袭感知的轨迹数据工程框架，解决自主科学智能体训练数据冗余与同质化问题

数据工程 Agent训练数据 AI for Science 数据沿袭 自进化智能体 轨迹数据 后训练数据

面向自主科学智能体的沿袭感知轨迹数据工程：从经验累积到自进化训练

背景与动机

当前问题

2026 年 4 月，自主科学智能体（Autonomous Scientific Agent）领域迎来爆发式进展。上海交大的 EvoMaster（arXiv:2604.17406）在 HLE 上取得 41.1% 正确率，上海 AI Lab 的 TREX（arXiv:2604.14116）实现 LLM 精调全流程自动化，斯坦福/北大/清华的 Evaluation-driven Scaling（arXiv:2604.19341）证明了评估端缩放与模型端扩展同等重要。这些工作共同指向一个趋势：AI 正从”科研助手”向”自主科研主体”转变。

然而，一个关键瓶颈尚未被充分关注：自主科学智能体的训练数据工程仍停留在”朴素累积”阶段。

具体表现为以下三个问题：

  1. 轨迹冗余与同质化：智能体在多轮实验中产生的经验轨迹（hypothesis → experiment → analysis）存在大量隐式重叠。现有框架（如 EvoMaster 的认知库、ASI-Evolve 的数据库）仅做简单存储，缺乏对轨迹间衍生、精炼、合并关系的系统性追踪，导致知识库膨胀而信息增量递减。

  2. 基准污染沿沿袭路径传播：Data Lineage（arXiv:2604.10480）已揭示后训练数据集中存在”由隐式数据集交叉引起的结构冗余”和”基准污染沿沿袭路径的传播”问题。在智能体场景下，这一问题更为严峻——智能体自生成的轨迹数据中，错误假设和失败实验的模式会通过迭代精炼链路向下游传播，形成”自污染”。

  3. 缺乏沿袭感知的采样策略：Evaluation-driven Scaling 证明了沿并行宽度、精炼深度、局部采样三个维度缩放评估预算的有效性，但其采样策略未考虑数据间的拓扑关系。在智能体场景中，从同一条沿袭路径上采样多个变体与从不同路径上采样等量数据，对模型训练的信息增益截然不同。

为什么现有方案不够好

现有工作局限性
EvoMaster 认知库知识存储为扁平结构，缺乏沿袭拓扑；迭代优化依赖人工规则
TREX MCTS 搜索树搜索探索实验空间，但不追踪数据间的衍生关系
Data Lineage 框架针对人工构建的数据集，未扩展到智能体自生成轨迹
Evaluation-driven Scaling评估驱动缩放有效，但采样策略忽略数据拓扑结构
ASI-EvolveAI 加速 AI 研发，但知识库缺乏去冗余和多样性保证

核心矛盾：智能体的自进化能力取决于其训练数据的质量与多样性，而现有框架将数据工程视为”事后处理”而非”一等公民”。

核心思路

提出的方法：Lineage-Aware Trajectory Data Engineering（LATE）

我们提出 LATE 框架——一个面向自主科学智能体的沿袭感知轨迹数据工程系统。其核心思想是：

将智能体经验轨迹的沿袭关系显式建模为一等公民，通过沿袭感知的采样、去冗余和评估驱动筛选，构建信息密度更高的自进化训练数据。

LATE 框架包含三个核心组件：

1. 轨迹沿袭图自动构建（Trajectory Lineage Graph Construction）

借鉴 Data Lineage 的多智能体框架，但将其从静态数据集扩展到动态轨迹流：

  • 沿袭信号检测：通过语义相似度、执行路径重叠、假设精炼链等信号自动识别轨迹间的衍生（derivation）、精炼（refinement）、合并（merging）和分歧（divergence）关系
  • 增量式图构建：智能体每完成一轮实验，自动将其轨迹节点和沿袭边插入全局沿袭图，支持在线更新
  • 污染传播阻断：当检测到某条轨迹包含已识别的错误模式或基准泄露时，沿沿袭图反向/正向标记受影响的下游轨迹

2. 沿袭感知采样与去冗余（Lineage-Aware Sampling & De-duplication）

  • 沿袭多样性采样：优先从沿袭图的不同分支（而非同一条精炼链上的不同版本）采样，最大化信息增益
  • 结构冗余检测：识别由隐式轨迹交叉导致的冗余——当两条轨迹的生成路径不同但产出高度相似的假设或实验设计时，标记为结构冗余
  • 根系锚定采样（Root-anchored Sampling）：借鉴 Data Lineage 的”上游根系锚定”策略，从沿袭图的根节点出发采样原始假设，减少下游同质化

3. 评估驱动的轨迹筛选循环（Evaluation-driven Trajectory Filtering Loop）

结合 Evaluation-driven Scaling 的三维缩放思想，但将缩放维度适配到沿袭拓扑：

  • 沿袭宽度（Lineage Breadth）：沿袭图中不同分支的并行采样数量
  • 精炼深度（Refinement Depth）：沿同一条精炼链的深度采样阈值
  • 根系采样粒度（Root Sampling Granularity）：从根节点采样的局部粒度 k

通过评估反馈动态调整三维参数，实现计算预算在沿袭拓扑上的最优分配。

与现有工作的关键区别

维度现有工作LATE
数据视角轨迹为扁平记录轨迹为沿袭图中的节点
冗余处理事后去重沿袭感知的在线去冗余
采样策略随机/均匀采样沿袭拓扑引导采样
污染控制无沿袭路径传播阻断
评估集成独立评估循环评估驱动的沿袭缩放

技术路线

阶段一：轨迹沿袭图形式化与构建（Month 1-2）

  1. 形式化定义轨迹沿袭图 G=(V,E)\mathcal{G} = (\mathcal{V}, \mathcal{E})：

    • 节点 v∈Vv \in \mathcal{V} 表示一条完整轨迹（hypothesis → experiment → analysis → conclusion）
    • 边 e∈Ee \in \mathcal{E} 带有类型标签 {derive, refine, merge, diverge} 和强度权重

  2. 沿袭信号检测算法：

    • 语义信号：轨迹间假设文本的语义相似度（使用 embedding 余弦相似度 + LLM 判断）
    • 执行信号：实验代码路径的 AST 重叠度
    • 时序信号：智能体日志中的显式引用关系（如”基于上一轮实验结果…”）
    • 多智能体协作：部署专门的沿袭检测 Agent，类似 Data Lineage 框架的多 Agent 架构

  3. 增量式图更新机制：设计支持在线插入的图数据结构，确保每次实验完成后沿袭图在 O(|V|) 时间内完成更新

阶段二：沿袭感知采样与去冗余算法（Month 2-4）

  1. 沿袭多样性采样算法：

    • 定义沿袭距离函数 d(vi,vj)d(v_i, v_j)，基于沿袭图中的最短路径长度和边类型权重
    • 使用 Farthest Point Sampling 在沿袭距离空间中采样，确保采样轨迹的拓扑多样性
    • 引入信息增益权重：优先采样沿袭图中连接密度低、信息熵高的区域

  2. 结构冗余检测：

    • 检测”殊途同归”型冗余：生成路径不同但输出相似的轨迹对
    • 检测”迭代衰减”型冗余：同一精炼链上增量信息递减的连续轨迹
    • 设计冗余评分函数 R(vi,vj)=α⋅sim(outputi,outputj)+β⋅path_overlap(vi,vj)R(v_i, v_j) = \alpha \cdot \text{sim}(\text{output}_i, \text{output}_j) + \beta \cdot \text{path\_overlap}(v_i, v_j)

  3. 根系锚定采样：

    • 从沿袭图的根节点集合（无入边的节点）出发
    • 对每个根系，沿其下游分支进行广度优先采样，控制每层采样数量
    • 自适应调整：当某根系的下游分支评估表现持续低于阈值时，减少该根系的采样预算

阶段三：评估驱动的沿袭缩放（Month 4-6）

  1. 三维缩放参数化：

    • 沿袭宽度 cc：并行探索的沿袭分支数
    • 精炼深度 ll：沿精炼链的最大深度
    • 根系粒度 kk：每个根节点的采样数量
    • 总预算 B=c×l×kB = c \times l \times k

  2. 评估反馈循环：

    • 使用代理评估器（Proxy Evaluator）快速评估采样轨迹的质量
    • 基于评估结果动态调整 (c,l,k)(c, l, k)：高多样性场景增加 cc，高深度价值场景增加 ll
    • 引入沿袭感知的 UCB（Upper Confidence Bound）策略平衡探索与利用

  3. 自污染阻断机制：

    • 当检测到某轨迹包含错误模式（评估失败、逻辑矛盾等），标记为污染源
    • 沿沿袭图正向传播污染标签，受影响的下游轨迹降低采样权重
    • 设计污染衰减函数：距离污染源越远，污染权重越低，允许”自我纠正”

阶段四：系统集成与实验验证（Month 6-8）

  1. 与 EvoMaster 框架集成：将 LATE 作为 EvoMaster 认知库的数据工程层
  2. 与 TREX 精调流程集成：将沿袭感知采样产出的轨迹数据作为 TREX 的训练数据输入
  3. 基准测试：
    • 科学发现任务：HLE、MLE-Bench、BrowseComp、FrontierScience
    • 数据质量指标：沿袭多样性、冗余率、信息密度
    • 训练效率指标：达到同等性能所需的轨迹数量

关键技术挑战

  1. 沿袭信号噪声：智能体轨迹间的语义相似不一定意味着沿袭关系（可能独立发现相同假设），需要设计高精度低召回的检测阈值并结合多信号融合
  2. 增量图构建的计算开销：大规模轨迹数据下的在线图更新需要高效的近似算法
  3. 评估器的可靠性：评估驱动的缩放高度依赖代理评估器的质量，在需要湿实验验证的领域（如生物、化学）构建可靠评估器仍具挑战
  4. 沿袭距离的定义：不同类型的沿袭边（精炼 vs 分歧 vs 合并）如何统一到距离度量中

预期成果

定量目标

  1. 数据效率：在 HLE/MLE-Bench 上达到 EvoMaster 基线同等性能，所需训练轨迹数量减少 30-50%
  2. 冗余降低：沿袭感知去冗余后，训练数据集的结构冗余率降低 60% 以上
  3. 多样性提升：沿袭多样性采样产出的数据在假设空间覆盖度上比均匀采样提升 25%
  4. 性能增益：在同等轨迹预算下，集成 LATE 的 EvoMaster 在 HLE 上的准确率提升 3-5 个百分点

定性目标

  1. 提出首个面向智能体轨迹的沿袭图形式化框架，建立”轨迹沿袭”这一新概念
  2. 证明沿袭感知采样在自主科学场景下的优越性，为”数据工程作为自进化一等公民”提供实证支持
  3. 开源 LATE 框架及沿袭图构建工具，支持其他智能体框架接入

可能的影响

  • 方法论层面：推动智能体训练数据从”朴素累积”向”沿袭工程”范式转变
  • 实践层面：为 EvoMaster、TREX、ASI-Evolve 等框架提供即插即用的数据工程层
  • 生态层面：促进智能体轨迹数据集的标准化与共享，类似 Data Lineage 对 HuggingFace 数据集的影响

相关工作

  1. EvoMaster: A Foundational Agent Framework for Building Evolving Autonomous Scientific Agents at Scale（arXiv:2604.17406, 2026）

  2. Tracing the Roots: A Multi-Agent Framework for Uncovering Data Lineage in Post-Training LLMs（arXiv:2604.10480, 2026, ACL 2026 Main）

  3. Evaluation-driven Scaling for Scientific Discovery（arXiv:2604.19341, 2026）

  4. TREX: Automating LLM Fine-tuning via Agent-Driven Tree-based Exploration（arXiv:2604.14116, 2026）

  5. ASI-Evolve: AI Accelerates AI（arXiv:2603.29640, 2026）

关联内容

研究 🔗 相关
自动化科研能力的训练数据体系：趋势判断、现有思路与展望
自动化科研是下一代AI模型的核心竞争力。本提案论证其行业重要性，梳理站内已有的数据构建思路，并展望尚未探索的数据方向。
研究 🔗 相关
科研 Agent 评测基准深度解析：FrontierScience · PaperBench · CORE-Bench · ScienceAgentBench · MLE-bench
五大科研/工程 Agent 评测基准的系统对比与深度解析：从博士级科学推理到论文复现到 Kaggle 竞赛，涵盖构建方法、任务示例、模型表现、评估设计，以及当前不足与未来基准方向的展望。
研究 🔗 相关
研究提案：合成数据血缘追踪与 Token 级精确去污染框架
合成数据的爆炸增长让基准污染从「可检测的显式问题」变成了「沿血缘路径隐式传播的系统性风险」。本提案设计一套合成数据血缘图谱基础设施，结合 token 级过滤实现精确去污染，目标是在保留 95%+ 有效训练信号的同时将基准泄露率降至 0.1% 以下。