Agentic Coding 数据合成新范式:从轨迹采集到自主进化的数据飞轮
GPT-5.5 在 Terminal-Bench 2.0 上 82.7% 的成绩标志着 Agentic Coding 进入新阶段,但训练数据极度稀缺。本提案提出一套从轨迹采集到自主进化的数据飞轮体系,解决当前 Agentic Coding 数据合成的根本性瓶颈。
触发动机
两条线索的交叉触发了这个提案:
线索一:GPT-5.5 的 Agentic Coding 突破
- Terminal-Bench 2.0:82.7% vs GPT-5.4 的 75.1%
- SWE-Bench Pro:58.6%(首次公开披露)
- 关键洞察:模型在”怎么用计算”上变得更高效了——更少 token、更少重试、更高质量
线索二:SwallowCode 的 transform-and-retain 范式
- arXiv 论文(2505.02881)证明:LLM 改写低质量数据比过滤掉它们效果更好
- 代码生成能力提升 17.0 分,数学推理提升 12.4 分
- 核心逻辑:原始数据包含正确语义,只是表达方式差
交叉点:Agentic Coding 需要的是过程数据而不仅仅是结果数据。当前的数据合成方法无法生成真实的规划、迭代、纠错过程。
战略判断:为什么现在做
行业趋势
Agentic Coding 成为主战场:
- OpenAI:GPT-5.5 在 Terminal-Bench 2.0 上 82.7%
- Anthropic:Claude Code 质量事故 postmortem 同日发布
- 竞争焦点从”代码生成”转向”端到端任务完成”
数据瓶颈凸显:
- Agentic Coding 需要轨迹数据(planning → execution → reflection → adjustment)
- 当前数据合成方法只能生成结果,无法生成真实的决策过程
- 人工标注轨迹数据成本过高,不可扩展
技术拐点出现:
- GPT-5.5 级别的模型可以自主生成高质量轨迹数据
- SwallowCode 证明了数据改写的有效性
- 数据飞轮技术(NVIDIA Data Flywheel Blueprint)已经成熟
现有方案的缺口
当前数据合成方法的局限:
- 结果导向:只生成最终代码,丢失中间决策过程
- 静态合成:一次性生成,无法适应任务复杂度变化
- 缺乏反馈:没有错误-修正循环的真实模拟
- 规模受限:人工标注无法满足万亿 token 级需求
Deep Research 数据合成的启示:
- 从高质量输出逆向拆解过程是可行的
- 但 Agentic Coding 的过程比 Deep Research 更复杂:涉及工具调用、环境状态、错误处理
重要性评估
市场空间:Agentic Coding 是面向所有开发者的功能,不是小众需求 技术壁垒:需要整合轨迹采集、数据改写、飞轮闭环三个技术栈 时间窗口:GPT-5.5 刚发布,各家都在探索 Agentic Coding 数据方案
核心洞察
Agentic Coding 数据的本质是”决策轨迹”,不是”代码片段”。一条完整的 Agentic Coding 轨迹包含:
任务理解 → 环境感知 → 工具选择 → 执行规划 → 错误处理 → 状态验证 → 迭代调整
当前的数据合成方法只能生成前两步(任务理解、环境感知)和最后一步(最终代码),中间的关键决策过程完全缺失。
技术方案
整体架构:三阶段数据飞轮
┌─────────────────┐ ┌─────────────────┐ ┌─────────────────┐
│ 轨迹采集层 │ │ 数据改写层 │ │ 飞轮进化层 │
│ │ │ │ │ │
│ 真实用户轨迹 │ → │ SwallowCode式 │ → │ 自主任务生成 │
│ 模拟环境轨迹 │ │ 改写与增强 │ │ 与质量评估 │
│ 逆向工程轨迹 │ │ │ │ │
└─────────────────┘ └─────────────────┘ └─────────────────┘
↓ ↓ ↓
原始轨迹池 高质量轨迹库 飞轮训练数据
关键步骤
步骤一:多源轨迹采集
1. 真实用户轨迹采集
- 从 Claude Code、Cursor、Codex 等工具采集匿名化轨迹
- 轨迹格式:
{task, environment_state, action_sequence, outcome, reflection} - 隐私保护:去除敏感信息,只保留工具调用模式和决策逻辑
2. 模拟环境轨迹生成
- 构建 Terminal-Bench 2.0 风格的模拟环境
- 用 GPT-5.5 级别模型在模拟环境中执行任务
- 记录完整的规划-执行-反思循环
3. 逆向工程轨迹合成
- 从 GitHub issue 解决记录逆向推导解决过程
- 从代码评审注释逆向推导修改决策
- 从文档变更历史逆向推导重构过程
步骤二:SwallowCode 式数据改写
借鉴 SwallowCode 的 transform-and-retain 范式,但应用于轨迹数据:
改写维度:
- 规划质量提升:用更强的模型重写初始规划
- 工具选择优化:修正不合理的工具调用序列
- 错误处理增强:添加缺失的错误检测和恢复逻辑
- 状态验证完善:补充环境状态检查点
质量控制:
- 用真实环境验证改写后轨迹的可执行性
- 确保轨迹的决策逻辑连贯合理
- 保持原始语义内容,只优化表达和执行方式
步骤三:自主进化飞轮
自主任务生成:
- 基于现有轨迹模式自动生成新的复杂任务
- 任务复杂度随模型能力提升而递增
- 确保任务覆盖真实世界的 corner cases
质量评估与筛选:
- 多维度评估轨迹质量:可执行性、效率、鲁棒性
- 自动筛选高质量轨迹进入训练集
- 低质量轨迹进入下一轮改写循环
飞轮闭环:
新模型训练 → 生成更高质量轨迹 → 训练更好模型 → ...
质量控制
四层质量验证:
- 语法验证:轨迹格式正确性
- 执行验证:在真实环境中的可执行性
- 逻辑验证:决策链的连贯合理性
- 效用验证:对模型训练的实测增益
消融实验设计:
- 对比不同轨迹成分的贡献度
- 验证改写 vs 过滤的效果差异
- 评估飞轮迭代的边际收益
成本与可行性评估
技术可行性
已有技术基础:
- SwallowCode 的数据改写技术已验证有效
- Terminal-Bench 2.0 等评估框架已成熟
- NVIDIA Data Flywheel Blueprint 提供参考架构
技术风险:
- 轨迹数据的隐私和安全性
- 模拟环境的真实度保证
- 飞轮收敛稳定性
资源需求
计算资源:
- 初始阶段:10-20 张 H100(轨迹生成和验证)
- 飞轮阶段:50-100 张 H100(自主进化循环)
数据资源:
- 真实用户轨迹采集需要工具厂商合作
- GitHub 等开源数据需要合规使用
时间规划:
- 阶段一(3个月):轨迹采集和改写技术验证
- 阶段二(6个月):飞轮闭环构建和优化
- 阶段三(持续):自主进化和规模扩展
风险与缓解
技术风险
轨迹真实性风险:模拟轨迹可能与真实用户行为有差异
- 缓解:多源验证,真实用户轨迹作为黄金标准
飞轮发散风险:自主进化可能产生不合理的轨迹模式
- 缓解:设置严格的评估阈值,人工定期审核
合规风险
隐私风险:用户轨迹采集涉及隐私问题
- 缓解:严格匿名化,只保留行为模式
版权风险:使用开源代码可能涉及版权
- 缓解:只使用许可明确的开源项目
预期产出
直接产出
数据集:
- AgenticCoding-Trajectory-v1:10万条高质量轨迹
- 覆盖终端操作、代码修改、调试、部署等场景
- 总规模:~50B tokens
技术成果:
- 轨迹数据合成 pipeline(开源)
- 数据改写和质量评估工具链
- 自主进化飞轮框架
间接价值
行业影响:
- 为 Agentic Coding 模型训练提供标准数据集
- 推动轨迹数据合成技术标准化
- 降低 Agentic Coding 模型开发门槛
商业价值:
- 可用于训练更强大的代码助手
- 在软件开发自动化领域有广泛应用
- 可能成为新的数据服务业务
与已有工作的关系
与 SwallowCode:借鉴 transform-and-retain 范式,但应用于轨迹数据而非代码片段
与 Deep Research 数据合成:共享逆向工程思路,但 Agentic Coding 涉及更复杂的环境交互
与 Terminal-Bench 2.0:使用其评估框架,但专注于数据生成而非模型评估
一句话总结
Agentic Coding 的下一个突破点不在模型架构,而在训练数据——我们需要从生成”代码结果”转向生成”决策轨迹”,构建能够自主进化的数据飞轮。