数据论文速递 · 2026年07月09日

引言

数据问题正在从”静态预处理”走向”动态全生命周期管理”。本期四篇论文勾勒出一条清晰的演进路径：CurateEvo 让数据策展从一次性工序变成持续演化的代码级策略；LongCrafter 用证据图为合成数据装上”可追溯的保真锁”；EdgeBench 则在预训练 Scaling Laws 之外，首次揭示了部署后环境学习的 log-sigmoid 缩放定律；SrDetection 聚焦评估环节，提出自指式数据泄漏检测框架。从策展、合成、缩放到验证——数据工作的每一个环节都在被重新定义。

---

CurateEvo: 失败驱动的 Agent 后训练数据策展演化

论文信息：CurateEvo: Data-Curation Evolving for Agentic Post-Training · arXiv:2607.06140

核心问题：现有 Agent 后训练管线将数据策展视为固定预处理步骤，只关注数据增强而忽视过滤、精炼和对下游失败的适应性调整。当 Agent 在环境中反复失败时，数据策略无法随之演化。

关键发现：

• 提出 CurateEvo 框架，将数据策展策略表示为可执行代码，并利用 held-out 开发集上的失败轨迹迭代重写策略。
• 每轮演化完成两件事：（1）诊断失败模式——识别重复出现的错误类型，针对性增强、过滤或精炼数据；（2）成本感知剪枝——在效率目标下裁剪冗余或低效用训练轮次。
• 在 ACEBench-Agent、BFCL-V4 和 τ²-Bench 上，CurateEvo 分别在标注数据和野生数据设置下提升平均分 3.2 和 2.7 个百分点，且与不同后训练方案兼容。

实践启示：数据策展不应是一次性的”预处理工序”，而应是随模型能力演化的”代码级策略”。将策展策略代码化、用失败信号驱动演化、在成本约束下剪枝——这三步为 Agent 数据工程提供了一个可复制的范式。尤其对于长时序决策的 Agent 训练，静态数据管线几乎是注定失败的。

---

LongCrafter: 证据图引导的长上下文指令合成

论文信息：LongCrafter: Towards Diverse Long-Context Understanding via Evidence-Graph-Guided Instruction Synthesis · arXiv:2607.06160

核心问题：合成长上下文 SFT 数据存在三大痛点——任务覆盖窄、指令难度不足、缺乏忠实性监督。现有方法生成的合成数据在难度和多样性上无法支撑模型的高阶长上下文能力。

关键发现：

• 构建层级化任务分类法，将长上下文理解分为 local/shallow 和 global/deep 两层，产出 32 种细粒度任务类型作为全局生成先验。
• 引入证据图（Evidence Graph）机制：将长上下文分解为显式的跨段落依赖图，指令-响应对严格锚定在定位到的证据片段上，确保推理的可控难度和忠实可追溯性。
• 在 Qwen2.5-7B 和 LLaMA-3.1-8B 上，LongCrafter 数据微调的模型在 LongBench、LongBench v2 和 LooGLE 上超越所有 SFT 基线甚至官方后训练模型，高难度任务提升最大。同时有效缓解”lost in the middle”问题。

实践启示：合成数据的质量瓶颈不在于”生成更多”，而在于”约束更精”。证据图为合成数据提供了结构化的忠实性保证——每条推理链都能追溯到具体文本片段。这种”证据先行、推理后行”的合成范式，为长上下文、RAG 等需要精确定位的场景提供了数据构建方法论。

---

EdgeBench: 真实世界环境学习的 Scaling Laws

论文信息：EdgeBench: Unveiling Scaling Laws of Learning from Real-World Environments · arXiv:2607.05155 · ByteDance Seed

核心问题：预训练 Scaling Laws 已被广泛研究，但模型部署后从真实世界环境中持续学习的能力是否也遵循可预测的缩放定律？这是数据从”训练时消费”走向”部署时积累”的关键问题。

关键发现：

• 构建 EdgeBench：134 个真实世界任务，横跨科学发现、软件工程、组合优化、专业知识工作、形式数学和交互游戏，每个任务持续至少 12 小时的 Agent 操作。
• 分析约 38,000 小时的环境交互数据，首次发现 Agent 环境学习遵循 log-sigmoid 缩放定律，拟合精度达 R² = 0.998。
• 跨模型代际发现：Agent 学习速度大约每三个月翻一倍；连续状态运行优于重启；更长上下文窗口有利于长时间运行的任务。

实践启示：部署后的”环境数据”正成为新的 Scaling 维度。log-sigmoid 曲线（而非 power-law）意味着存在性能天花板——仅靠更多交互时间不能无限提升。这为 Agent 产品的 ROI 估算提供了定量框架：在投资更多环境交互之前，应先评估是否已接近饱和区。同时，“连续 > 重启”的发现暗示，构建持久化记忆可能比单次长交互更有效。

---

SrDetection: 代码 LLM 的自指式数据泄漏检测

论文信息：SrDetection: A Self-Referential Framework for Data Leakage Detection in Code Large Language Models · arXiv:2606.29815

核心问题：代码 LLM 评估中的数据泄漏（benchmark 数据在预训练中被曝光）导致性能虚高。现有检测方法要么需要访问训练语料（灰箱），要么依赖脆弱的启发式规则，难以泛化。

关键发现：

• 提出 SrDetection，一个统一的自指式泄漏检测框架，同时支持灰箱（访问模型 logits）和黑箱（仅访问模型输出）设置。
• 核心思路：生成基准样本的语义等价变体，对比模型在原始样本与变体上的行为差异——若原始样本异常容易，则标记为泄漏。
• 在灰箱设置下平均 F1 提升 21.52 分，黑箱设置下提升 14.46 分，且不依赖手动调参的阈值。
• 对 15 个主流 Code LLM 在 4 个基准上的灰箱研究，揭示了超越简单重叠分析的基准特异化泄漏模式。

实践启示：数据泄漏检测不需要访问训练语料——模型自身的行为就是最好的”证人”。SrDetection 的自指范式（用变体对比原始）为评估数据的可信度提供了一个轻量、通用、阈值无关的工具。在数据污染日益严重的今天，“先验证评估数据的干净性”应成为所有模型评估的前置步骤。