研究提案已修订

面向 Harness 进化智能体的归因解耦训练数据工程：从 Harness-数据归因模糊到反事实归因驱动的数据策展

当智能体 harness 本身被持续优化（AutoDesign/SKILLER），轨迹失败的归因变得模糊——是数据质量问题还是 harness 质量问题？提出 ATTRIB-DECOUPLE 框架，通过反事实 harness 消融实现失败归因解耦，驱动 Harness-数据协同进化

2026年8月17日 harness-optimization training-data-engineering attribution-decoupling agentic-RL meta-harness credit-assignment self-evolving-agents

背景与动机

2026 年 8 月，三篇独立工作标志了智能体训练范式的根本性转变：AutoDesign（arXiv:2608.13560）证明，仅优化模型外部的 DesignHarness——不改模型权重——即可在 7 种模型配置上平均提升 12.4 分（54.99→67.39），甚至超过闭源商业系统 Claude Design 7.45 分；SKILLER（arXiv:2608.10538）以自然语言驱动的 RL 框架自动为小模型生成技能约束，使 Qwen3.5-9B 在 SkillsBench 单技能任务上匹配闭源模型表现；ABSeeker（arXiv:2608.05102）通过答案回溯信用分配将稀疏轨迹级结果转化为密集步骤级监督，4B 模型即可达到 30B 级别的搜索智能体性能。

这些工作揭示了一个深层结构变化：智能体能力提升的杠杆正从”训练数据+模型权重”双轴扩展为”训练数据+模型权重+harness”三轴。Harness——包括上下文与记忆、工具与规约、执行运行时、调度编排、评估与反馈五类功能组件（AutoDesign 定义）——不再仅仅是模型的外围脚手架，而成为可独立优化的性能载体。

然而，这一范式转变带来了一个此前不存在的根本问题：Harness-数据归因模糊。当 harness 本身在被持续优化时，一条训练轨迹的失败可能源于训练数据质量不足，也可能源于 harness 质量不足——但当前数据工程方法均假设 harness 是固定的，将所有失败归因于数据质量。这导致三类系统性偏差：

Harness-掩盖的数据缺陷：harness 的强化补偿了训练数据的不足，使数据质量问题被隐性化。例如 AutoDesign 中，优化后的 DesignHarness 使 DeepSeek V4 Pro 从 34.73 升至 54.29（+19.56），但这并不意味着模型的代码生成能力提升了——harness 的工具规范和反馈回路承担了大量认知负荷，训练数据中缺失的”布局溯源”知识被 harness 的规则检查器替代了。
数据-掩盖的 Harness 缺陷：反之，当模型参数已通过高质量 SFT/RL 数据习得了某项能力时，harness 中对应组件的冗余或错误不会被检测到，因为模型”自带”能力掩盖了 harness 的缺陷。这导致 harness 优化器的搜索空间被不必要地约束——AutoDesign 的接受门控只在训练集有提升时才接受更新，但如果模型本身已解决了某问题，harness 优化器在该维度上无法获得正向信号。
Harness-数据竞争性退化：当 harness 和训练数据同时演化但方向不一致时，可能产生竞争性退化。SKILLER 的技能生成使小模型行为空间被约束在自然语言技能规约内，但如果后续 RL 训练数据的分布偏离了技能规约隐含的行为约束，模型可能习得与技能冲突的行为模式——而现有评估信号（任务成功率）无法区分”模型学会了更好的行为”和”模型学会了绕过技能约束”。

现有工作均未触及这一问题。AutoDesign 的接受门控仅在 harness 层面做训练集/开发集的二元判断，不考虑训练数据质量信号；SKILLER 的 NL-RL 循环在技能生成阶段假设训练数据分布固定；ABSeeker 的答案回溯信用分配假设搜索环境（一种 harness）是固定的。没有方法能够诊断一条失败轨迹的归因究竟落在 harness 侧还是数据侧，更没有方法能够基于这种归因分别驱动 harness 优化和训练数据策展。

核心思路

提出 ATTRIB-DECOUPLE 框架，将 harness-数据归因模糊建模为一等训练数据质量信号，通过反事实 harness 消融实现失败轨迹的归因解耦，并基于归因结果分别驱动 harness 优化和训练数据策展。

核心洞察：harness 和训练数据对智能体能力的贡献具有结构性可分性。Harness 组件的功能角色是可独立消融的——AutoDesign 将 harness 分为五类组件且每次只修改一个，这为因果归因提供了天然的单位结构。当移除某个 harness 组件后轨迹仍然成功，则该组件对成功无因果贡献，轨迹的成功归因于数据/模型能力；当移除后轨迹失败，则该组件具有因果贡献，需要进一步区分是”必要贡献”（harness 质量好）还是”不足贡献”（harness 质量差但数据也未弥补）。

ATTRIB-DECOUPLE 与现有工作的关键区别：

方法	Harness 假设	失败归因	优化对象
AutoDesign	Harness 可优化	仅归因于 harness	仅优化 harness
传统数据工程	Harness 固定	仅归因于数据	仅优化数据
SKILLER	Skills 可生成	仅归因于技能质量	仅优化技能
ATTRIB-DECOUPLE	Harness 可优化	解耦为 harness 归因 + 数据归因	协同优化 harness + 数据

技术路线

阶段 1：Harness-数据归因诊断

1.1 反事实 Harness 消融实验

对每条训练轨迹 τ，系统地消融 harness 的每个功能组件 c_i ∈ C = {上下文记忆, 工具规约, 执行运行时, 调度编排, 评估反馈}，在相同初始条件下重新执行，获得消融轨迹集合 {τ_{c_i}}。定义：

Harness 因果贡献 HCC(τ, c_i) = Success(τ) - Success(τ_{c_i})，衡量组件 c_i 对轨迹成功的因果贡献
数据因果贡献 DCC(τ) = Success(τ_{∅})，其中 τ_{∅} 是移除所有 harness 后仅靠模型能力的执行结果，衡量训练数据赋予模型的裸能力
协同增益 SG(τ) = Success(τ) - max(DCC(τ), max_i HCC(τ, c_i))，衡量 harness 与数据的协同效应超出各自独立贡献的部分

1.2 归因模式分类

基于 (HCC, DCC, SG) 三元组，将轨迹分为六类归因模式：

归因模式	HCC	DCC	SG	含义
Data-Dominant	低	高	低	成功主要归因于数据质量，harness 贡献小
Harness-Dominant	高	低	低	成功主要归因于 harness 质量，数据贡献小
Synergistic	中	中	高	harness 和数据协同产生超越独立贡献的效果
Both-Weak	低	低	低	harness 和数据都不足，轨迹成功率为偶然
Harness-Masked	高	低(表象)	中	harness 补偿了数据缺陷，裸能力低但 harness 掩盖了问题
Data-Masked	低(表象)	高	中	数据能力掩盖了 harness 缺陷，harness 冗余或错误未被触发

其中 Harness-Masked 和 Data-Masked 是最关键的隐性模式，也是现有方法完全盲视的。

1.3 可扩展归因估计

反事实消融的完整执行代价高。借鉴 ABSeeker 的答案回溯思路，设计轻量级归因估计器：对轨迹中的每个失败步骤，通过单步反事实（替换当前步骤的 harness 组件输入为默认值）估计该步骤的归因，避免完整轨迹重执行。结合 SKILLER 的自然语言传播机制，用 LLM-as-Critic 对轨迹步骤做归因标注，将归因信号以自然语言形式传播，成本仅为完整消融的 ~1/5。

阶段 2：归因感知训练数据策展

2.1 Harness-Masked 数据缺陷修复

对诊断为 Harness-Masked 的轨迹，harness 补偿了数据缺陷——这意味着当 harness 被替换或退化时，模型将失去该能力。策展策略：

裸能力靶向合成：针对 DCC 低但 Success(τ) 高的轨迹，合成训练数据直接提升模型裸能力（不依赖 harness 的能力），使 DCC↑ 而不依赖 HCC
Harness-退化数据增强：在训练数据中注入 harness 组件随机退化的场景，使模型学会在 harness 不完美时仍保持鲁棒执行

2.2 Data-Masked Harness 冗余清理

对诊断为 Data-Masked 的轨迹，数据能力已覆盖了 harness 的功能——harness 组件可能是冗余甚至有害的。策展策略：

Harness 负载感知采样：在训练数据策展中降低对 harness 组件的依赖权重，使训练数据中 harness-无关能力的样本比例增加
Harness 组件最小化验证：通过消融验证哪些 harness 组件可被移除而不影响成功率，释放上下文窗口

2.3 Both-Weak 定向增强

对 Both-Weak 的轨迹，harness 和数据都不足——这是最高优先级的改进目标。策展策略：

双路定向合成：同时合成增强 harness 组件和训练数据，使 SG 最大化
归因驱动难度校准：根据归因模式调整训练数据难度分布——Both-Weak 轨迹对应的能力前沿最需要密集采样

2.4 Synergistic 模式保护

对 Synergistic 的轨迹，harness 和数据产生了协同效应——需要保护这种协同不被后续优化破坏。策展策略：

协同感知批次构建：在训练批次中保持 Synergistic 轨迹的比例，避免梯度更新偏向 Harness-Dominant 或 Data-Dominant 模式
SG 保持约束：在 RL 训练的奖励函数中增加 SG 保持项，惩罚协同效应的退化

阶段 3：Harness-数据协同进化闭环

3.1 非对称进化速率控制

AutoDesign 的外环优化 harness（天级），RL 训练更新模型参数（小时级），两者的进化速率不匹配可能导致震荡。引入非对称进化速率控制：

当归因模式为 Harness-Masked 时，加速数据侧进化、减速 harness 侧进化
当归因模式为 Data-Masked 时，加速 harness 侧进化、减速数据侧进化
当归因模式为 Both-Weak 时，双路加速
当归因模式为 Synergistic 时，双路减速以稳定协同

3.2 归因稳定性监控

定义归因模式稳定性指标 APS（Attribution Pattern Stability），衡量归因模式在连续进化轮次中的变化率。当 APS < 阈值时，表示归因模式趋于稳定，可进入细调阶段；当 APS 急剧变化时，表示 harness-数据协同结构正在重组，应暂缓策展策略切换。

3.3 评估器-归因一致性校验

借鉴 AutoDesign 的独立开发集门控和 Red Queen Gödel Machine 的评估器-智能体共进化思想，在闭环中引入评估器-归因一致性校验：评估器的信号应与归因诊断的结论一致。若不一致，说明评估器本身存在偏差（例如评估器仅检查最终输出而不检查中间步骤的 harness 依赖），需要校准评估器而非策展数据。

预期成果

定量目标：

在 AutoDesign 的 PosterBench 上，相比仅优化 harness（+12.4 分），ATTRIB-DECOUPLE 的协同优化预期额外提升 5-8 分，总提升 17-20 分
Harness-Masked 数据缺陷修复后，裸能力 DCC 预期提升 15-25%，使模型在 harness 退化 30% 时性能下降不超过 5%
Both-Weak 定向增强后，训练数据有效信息密度（借鉴 Entropy Polarity 思路）预期提升 2-3x
归因诊断的准确率（与完整消融实验对比）预期达到 85%+

定性目标：

建立首个 harness-数据归因解耦的形式化框架，为”harness 可优化”范式下的训练数据工程提供理论基础
定义 Harness-Masked 和 Data-Masked 两类隐性归因模式，填补现有方法对归因模糊的盲区
提出 harness-数据协同进化的非对称速率控制机制，解决 AutoDesign 式外环优化与 RL 内环训练之间的时间尺度不匹配

可能的影响：

推动”训练数据工程”从”固定 harness 假设”向”harness-数据联合工程”范式转变
为 SKILLER 式技能生成与 RL 训练的集成提供归因诊断工具，解决技能约束与策略学习的冲突
为 AutoDesign 的接受门控增加数据侧信号，使 harness 优化不再盲目于数据质量问题