研究提案 已修订

Agentic Coding 数据合成新范式:从轨迹采集到自主进化的数据飞轮

GPT-5.5 在 Terminal-Bench 2.0 上 82.7% 的成绩标志着 Agentic Coding 进入新阶段,但训练数据极度稀缺。本提案提出一套从轨迹采集到自主进化的数据飞轮体系,解决当前 Agentic Coding 数据合成的根本性瓶颈。

Agentic Coding 数据合成 轨迹数据 数据飞轮 GPT-5.5 Terminal-Bench

触发动机

两条线索的交叉触发了这个提案:

线索一:GPT-5.5 的 Agentic Coding 突破

  • Terminal-Bench 2.0:82.7% vs GPT-5.4 的 75.1%
  • SWE-Bench Pro:58.6%(首次公开披露)
  • 关键洞察:模型在”怎么用计算”上变得更高效了——更少 token、更少重试、更高质量

线索二:SwallowCode 的 transform-and-retain 范式

  • arXiv 论文(2505.02881)证明:LLM 改写低质量数据比过滤掉它们效果更好
  • 代码生成能力提升 17.0 分,数学推理提升 12.4 分
  • 核心逻辑:原始数据包含正确语义,只是表达方式差

交叉点:Agentic Coding 需要的是过程数据而不仅仅是结果数据。当前的数据合成方法无法生成真实的规划、迭代、纠错过程。

战略判断:为什么现在做

行业趋势

Agentic Coding 成为主战场:

  • OpenAI:GPT-5.5 在 Terminal-Bench 2.0 上 82.7%
  • Anthropic:Claude Code 质量事故 postmortem 同日发布
  • 竞争焦点从”代码生成”转向”端到端任务完成”

数据瓶颈凸显:

  • Agentic Coding 需要轨迹数据(planning → execution → reflection → adjustment)
  • 当前数据合成方法只能生成结果,无法生成真实的决策过程
  • 人工标注轨迹数据成本过高,不可扩展

技术拐点出现:

  • GPT-5.5 级别的模型可以自主生成高质量轨迹数据
  • SwallowCode 证明了数据改写的有效性
  • 数据飞轮技术(NVIDIA Data Flywheel Blueprint)已经成熟

现有方案的缺口

当前数据合成方法的局限:

  1. 结果导向:只生成最终代码,丢失中间决策过程
  2. 静态合成:一次性生成,无法适应任务复杂度变化
  3. 缺乏反馈:没有错误-修正循环的真实模拟
  4. 规模受限:人工标注无法满足万亿 token 级需求

Deep Research 数据合成的启示:

  • 从高质量输出逆向拆解过程是可行的
  • 但 Agentic Coding 的过程比 Deep Research 更复杂:涉及工具调用、环境状态、错误处理

重要性评估

市场空间:Agentic Coding 是面向所有开发者的功能,不是小众需求 技术壁垒:需要整合轨迹采集、数据改写、飞轮闭环三个技术栈 时间窗口:GPT-5.5 刚发布,各家都在探索 Agentic Coding 数据方案

核心洞察

Agentic Coding 数据的本质是”决策轨迹”,不是”代码片段”。一条完整的 Agentic Coding 轨迹包含:

任务理解 → 环境感知 → 工具选择 → 执行规划 → 错误处理 → 状态验证 → 迭代调整

当前的数据合成方法只能生成前两步(任务理解、环境感知)和最后一步(最终代码),中间的关键决策过程完全缺失。

技术方案

整体架构:三阶段数据飞轮

┌─────────────────┐    ┌─────────────────┐    ┌─────────────────┐
│   轨迹采集层     │    │   数据改写层     │    │   飞轮进化层     │
│                 │    │                 │    │                 │
│ 真实用户轨迹    │ →  │ SwallowCode式   │ →  │ 自主任务生成    │
│ 模拟环境轨迹    │    │ 改写与增强      │    │ 与质量评估      │
│ 逆向工程轨迹    │    │                 │    │                 │
└─────────────────┘    └─────────────────┘    └─────────────────┘
        ↓                        ↓                        ↓
  原始轨迹池                高质量轨迹库                飞轮训练数据

关键步骤

步骤一:多源轨迹采集

1. 真实用户轨迹采集

  • 从 Claude Code、Cursor、Codex 等工具采集匿名化轨迹
  • 轨迹格式:{task, environment_state, action_sequence, outcome, reflection}
  • 隐私保护:去除敏感信息,只保留工具调用模式和决策逻辑

2. 模拟环境轨迹生成

  • 构建 Terminal-Bench 2.0 风格的模拟环境
  • 用 GPT-5.5 级别模型在模拟环境中执行任务
  • 记录完整的规划-执行-反思循环

3. 逆向工程轨迹合成

  • 从 GitHub issue 解决记录逆向推导解决过程
  • 从代码评审注释逆向推导修改决策
  • 从文档变更历史逆向推导重构过程

步骤二:SwallowCode 式数据改写

借鉴 SwallowCode 的 transform-and-retain 范式,但应用于轨迹数据:

改写维度:

  1. 规划质量提升:用更强的模型重写初始规划
  2. 工具选择优化:修正不合理的工具调用序列
  3. 错误处理增强:添加缺失的错误检测和恢复逻辑
  4. 状态验证完善:补充环境状态检查点

质量控制:

  • 用真实环境验证改写后轨迹的可执行性
  • 确保轨迹的决策逻辑连贯合理
  • 保持原始语义内容,只优化表达和执行方式

步骤三:自主进化飞轮

自主任务生成:

  • 基于现有轨迹模式自动生成新的复杂任务
  • 任务复杂度随模型能力提升而递增
  • 确保任务覆盖真实世界的 corner cases

质量评估与筛选:

  • 多维度评估轨迹质量:可执行性、效率、鲁棒性
  • 自动筛选高质量轨迹进入训练集
  • 低质量轨迹进入下一轮改写循环

飞轮闭环:

新模型训练 → 生成更高质量轨迹 → 训练更好模型 → ...

质量控制

四层质量验证:

  1. 语法验证:轨迹格式正确性
  2. 执行验证:在真实环境中的可执行性
  3. 逻辑验证:决策链的连贯合理性
  4. 效用验证:对模型训练的实测增益

消融实验设计:

  • 对比不同轨迹成分的贡献度
  • 验证改写 vs 过滤的效果差异
  • 评估飞轮迭代的边际收益

成本与可行性评估

技术可行性

已有技术基础:

  • SwallowCode 的数据改写技术已验证有效
  • Terminal-Bench 2.0 等评估框架已成熟
  • NVIDIA Data Flywheel Blueprint 提供参考架构

技术风险:

  • 轨迹数据的隐私和安全性
  • 模拟环境的真实度保证
  • 飞轮收敛稳定性

资源需求

计算资源:

  • 初始阶段:10-20 张 H100(轨迹生成和验证)
  • 飞轮阶段:50-100 张 H100(自主进化循环)

数据资源:

  • 真实用户轨迹采集需要工具厂商合作
  • GitHub 等开源数据需要合规使用

时间规划:

  • 阶段一(3个月):轨迹采集和改写技术验证
  • 阶段二(6个月):飞轮闭环构建和优化
  • 阶段三(持续):自主进化和规模扩展

风险与缓解

技术风险

轨迹真实性风险:模拟轨迹可能与真实用户行为有差异

  • 缓解:多源验证,真实用户轨迹作为黄金标准

飞轮发散风险:自主进化可能产生不合理的轨迹模式

  • 缓解:设置严格的评估阈值,人工定期审核

合规风险

隐私风险:用户轨迹采集涉及隐私问题

  • 缓解:严格匿名化,只保留行为模式

版权风险:使用开源代码可能涉及版权

  • 缓解:只使用许可明确的开源项目

预期产出

直接产出

数据集:

  • AgenticCoding-Trajectory-v1:10万条高质量轨迹
  • 覆盖终端操作、代码修改、调试、部署等场景
  • 总规模:~50B tokens

技术成果:

  • 轨迹数据合成 pipeline(开源)
  • 数据改写和质量评估工具链
  • 自主进化飞轮框架

间接价值

行业影响:

  • 为 Agentic Coding 模型训练提供标准数据集
  • 推动轨迹数据合成技术标准化
  • 降低 Agentic Coding 模型开发门槛

商业价值:

  • 可用于训练更强大的代码助手
  • 在软件开发自动化领域有广泛应用
  • 可能成为新的数据服务业务

与已有工作的关系

与 SwallowCode:借鉴 transform-and-retain 范式,但应用于轨迹数据而非代码片段

与 Deep Research 数据合成:共享逆向工程思路,但 Agentic Coding 涉及更复杂的环境交互

与 Terminal-Bench 2.0:使用其评估框架,但专注于数据生成而非模型评估

一句话总结

Agentic Coding 的下一个突破点不在模型架构,而在训练数据——我们需要从生成”代码结果”转向生成”决策轨迹”,构建能够自主进化的数据飞轮。