研究提案已修订

面向全程序合成智能体的规约 elicitation 保真训练数据工程：从结果盲蒸馏到规约锚定的数据策展

将全程序合成轨迹中的规约 elicitation 保真度建模为一等训练数据质量信号，诊断规约-执行耦合退化，设计规约感知的数据策展策略

2026年7月31日程序合成训练数据工程规约elicitation RLVR 代码智能体全生命周期 SFT蒸馏

背景与动机

全程序合成（Program Synthesis from Scratch）——仅凭自然语言文档和可执行参考二进制文件，从零构建完整程序——是代码智能体最具挑战性的前沿任务。ProgramBench 基准显示，即使最前沿模型也仅解决不到 1% 的实例。

MindForge（arXiv:2607.27146） 的突破性工作表明，通过源无关环境（source-free environments）构建 + 教师智能体全生命周期轨迹蒸馏，可将 Qwen3.6-27B 在 ProgramBench 上的通过率从 37.98% 提升至 49.51%，达到接近 Opus 4.7 的水平。然而，MindForge 的轨迹质量评估仅以结果可构建性（buildable submission）为标准，未区分轨迹中规约理解的深度与质量。

SpecFirst（arXiv:2607.27167） 的同期工作从推理时角度揭示了关键问题：现有框架将文档阅读、行为探索和代码合成混为一趟完成，导致智能体探测不足、行为意图随上下文漂移、早期误解读传播至最终实现。SpecFirst 将规约 elicitation 提升为一等公民阶段，在 ProgramBench 上实现 6.9%-21.3% 的测试通过率提升。

核心问题：MindForge 的训练数据工程存在规约 elicitation 保真盲区——教师轨迹中规约理解的质量未被显式建模为训练数据质量信号。学生可能从低规约保真轨迹中学习到与高保真轨迹等量的更新信号，导致：

规约-执行耦合退化：学生习得执行模式但缺乏规约理解能力，在未见规约上无法泛化
规约 elicitation 策略同质化：教师 GLM-5.2 的规约探索策略被无差别蒸馏，学生无法习得多样化的规约探索方法
静态蒸馏的适应性缺失：轨迹一旦收集便固定不变，不随学生能力演化调整规约探索难度

核心思路

提出 SPEC-ELICIT（Specification Elicitation Fidelity-Aware Training Data Engineering）框架，将全程序合成轨迹中的规约 elicitation 保真度（Specification Elicitation Fidelity, SEF）建模为一等训练数据质量信号。

与现有工作的关键区别：

维度	MindForge	SpecFirst	SPEC-ELICIT
规约建模	隐式（教师轨迹中蕴含）	推理时显式（Spec Agent）	训练数据质量信号
质量标准	可构建性	测试通过率	规约保真度 + 可构建性
轨迹策略	静态蒸馏	单阶段推理	规约-轨迹共进化
适用阶段	训练时	推理时	训练时数据工程

核心创新：将 SpecFirst 的推理时规约 elicitation 洞察迁移至训练时数据工程层面，使规约理解质量成为训练数据质量的先验约束，而非推理时的事后补救。

技术路线

第一阶段：规约 Elicitation 保真诊断

1.1 规约 elicitation 保真度（SEF）定义

对全生命周期轨迹 $\tau$ 中的规约探索段 $\tau_{\text{spec}}$ ，定义 SEF 为三维画像：

规约覆盖度（SC）：参考二进制暴露的行为空间中， $\tau_{\text{spec}}$ 实际探索的比例 $\text{SC}(\tau) = \frac{|\text{ExploredBehaviors}(\tau_{\text{spec}})|}{|\text{ExposedBehaviors}(\text{binary})|}$ 利用 SpecFirst 的行为探索覆盖率度量（9.4%-18.5% 提升基线），在轨迹级计算
规约-执行一致性（SEC）： $\tau_{\text{spec}}$ 中提取的规约意图与 $\tau_{\text{impl}}$ 实际实现的对齐程度 $\text{SEC}(\tau) = \text{Sim}(\text{SpecIntent}(\tau_{\text{spec}}), \text{ImplIntent}(\tau_{\text{impl}}))$ 通过反事实消融测试：若移除 $\tau_{\text{spec}}$ 中的某条规约发现，实现是否仍一致
规约稳定性（SS）： $\tau_{\text{spec}}$ 中规约理解在后续阶段是否被推翻或修正 $\text{SS}(\tau) = 1 - \frac{|\text{SpecRevision}(\tau)|}{|\text{SpecDiscovery}(\tau)|}$

1.2 三类规约-执行耦合退化诊断

规约-不可知执行（SAE）： $\text{SC} \to 0$ 但 $\text{SEC} \to 1$ ，即教师”蒙对了”——实现正确但规约探索不足
- MindForge 中 59.4% 的轨迹包含 bug localization（暗示规约理解不完整导致的实现偏差）
- 诊断信号：高测试通过率 + 低规约覆盖度
规约-执行脱节（SED）： $\text{SEC} \to 0$ ，即规约探索与实现方向不一致
- 教师可能先探索了错误行为，后修正实现但未更新规约理解
- 诊断信号：规约-实现反事实不一致
规约-漂移执行（SDE）： $\text{SS} \to 0$ ，即规约理解在实现过程中频繁被推翻
- MindForge 中 830-turn 超长轨迹暗示反复修正
- 诊断信号：规约修正次数 / 实现阶段占比

第二阶段：规约感知数据策展

2.1 规约保真门控采样

基于 SEF 三维画像，对轨迹进行分层采样：

高保真区（SEF > θ_H）：SC + SEC + SS 均高，直接用于 SFT
近保真区（θ_L < SEF < θ_H）：规约探索基本正确但存在局部缺陷，需规约增强
低保真区（SEF < θ_L）：规约-执行严重脱节，需规约重构或降权

2.2 规约 elicitation 增强合成

规约-执行解耦合成：将 MindForge 的单阶段轨迹分解为 SpecFirst 风格的两阶段结构（规约探索段 + 代码合成段），对每段独立增强
规约补全合成：对 SAE 类型轨迹，利用 SpecFirst 的 Spec Agent 重新探测参考二进制，补充缺失的规约发现
规约-执行对齐合成：对 SED 类型轨迹，利用反事实规约-实现一致性检查，标注并修正不一致的规约-实现对
规约稳定性增强：对 SDE 类型轨迹，通过规约-实现时序对齐，将规约修正显式标注为训练信号

2.3 规约感知批次构建

规约-执行平衡：每个训练批次确保规约探索段与代码合成段的比例均衡
规约多样性保持：通过规约覆盖度聚类，确保批次中覆盖不同类型的规约探索模式
规约-难度解耦：避免高难度规约与低难度实现的混合，防止学生将注意力集中在执行而非规约理解

第三阶段：规约-轨迹共进化闭环

3.1 规约-能力共进化

学生能力演化 → 规约探索难度动态调整（参考 Living-Harness 的 Evolution-SOP）
学生规约理解能力提升 → 增加规约探索段复杂度（更多隐式行为、更复杂接口）
学生规约理解能力不足 → 降低规约探索复杂度（更明确的文档、更简单的行为空间）

3.2 规约保真驱动的数据演化

每轮训练后，评估学生在未见规约上的表现
识别学生规约理解的薄弱区域（类似 SkillBoost 的约束探索-利用）
定向合成高规约保真轨迹填补薄弱区域

3.3 规约保真-训练效率联合优化

参考 ReCo 的分布浓度校正，在 SFT 蒸馏中引入规约保真加权
对高规约保真轨迹给予更高权重，对低保真轨迹降低权重
避免学生过度拟合教师的特定规约探索模式

预期成果

定量目标

ProgramBench 通过率：在 MindForge 基线（49.51%）上提升 3-5 个百分点，目标 52-55%
规约探索覆盖率：在 SpecFirst 基线（9.4%-18.5% 提升）上额外提升 5-10%
跨域泛化：在 MindForge 的 7 个未见基准上，平均额外提升 2-4 个百分点
规约保真度：SEF 三维画像的分布从 MindForge 的隐式分布向高保真区偏移

定性目标

建立全程序合成训练数据的规约保真度理论框架，将 SpecFirst 的推理时规约 elicitation 提升为训练时数据质量信号
揭示 MindForge 教师轨迹中规约-执行耦合退化的具体模式与频率
验证规约保真门控采样对训练数据质量与模型泛化能力的因果效应

可能的影响

范式转变：从”结果驱动蒸馏”转向”规约保真驱动策展”，为全程序合成训练数据工程建立新的质量标准
与 SpecFirst 的互补：SpecFirst 在推理时提供规约 elicitation，SPEC-ELICIT 在训练时保障规约保真，两者形成训练-推理全链路规约保障
跨域迁移：SEF 画像可迁移至 API 调用智能体、GUI 智能体等需要规约理解的场景