研究提案 已修订

搜索树逆向工程:从 Deep Research 行为模式构建多文档推理中训练数据

Deep Research 是 2026 年最热的 Agent 能力方向,但训练数据极度匮乏。本提案从 InfoSeek 的 Research Tree 思路出发,提出一套更适合中训练阶段的搜索轨迹数据合成方法——不模拟搜索行为,而是从已有的高质量长文中逆向拆解搜索过程。

中训练 Deep Research 搜索Agent 多文档推理 数据合成

触发动机

这个想法起于两条线索的交叉。线索一:站内持续追踪 Deep Research 产品的竞争(OpenAI、Google、Perplexity),发现它们的搜索能力已经相当成熟,但输出质量的差距主要在”读完 50 篇网页后怎么整合”——这是一个纯粹的多文档推理问题,也就是数据问题。线索二:InfoSeek 的 Research Tree 工作提出了用树状结构描述搜索过程的方法论,但它是正向模拟搜索行为来生成数据。我突然意识到可以反过来——已有的高质量综述论文本身就是”搜索结果的最终产物”,从综述逆向拆解搜索过程,比正向模拟搜索行为更高效、更接近真实。

战略判断:为什么这是最值得做的方向之一

竞争格局

Deep Research 是 2026 年各家模型厂商的核心竞技场:

  • OpenAI Deep Research(2025.02 发布):BrowseComp 上仅 51.5%,仍有巨大提升空间
  • Google Gemini Deep Research:集成 Google Search 生态,搜索质量领先
  • Perplexity Pro Search:首个大规模商业化的 Deep Research 产品
  • 开源方面:SimpleDeepSearcher(RUC)、Search-o1、R1-Searcher 等快速涌现

关键洞察:Deep Research 的能力瓶颈不在搜索本身(搜索引擎是现成的),而在于多文档推理——读了 50 篇网页后,怎么提炼、交叉验证、结构化输出。这是一个纯粹的数据问题。

现有数据方案的局限

InfoSeek(arXiv:2509.00375,ICLR 2026 接收)提出了目前最系统的 Deep Research 数据合成方案:用双 Agent 从网页递归构建 Research Tree,再转化为 QA 对。但它有两个根本问题:

  1. 信息驱动 vs 需求驱动:InfoSeek 先收集网页,再编造问题。真实的 Deep Research 是先有问题,再去搜索。这导致合成的数据缺乏”搜索策略”维度。
  2. 只有 QA 对,没有过程:最终产出是 (question, answer) 对。搜索过程——先搜什么、发现矛盾怎么处理、信息不足时怎么调整搜索策略——全部丢失。而这正是中训练需要的推理链。

重要性评估

  • 市场需求最大:Deep Research 是面向所有用户的功能,不是小众的 STEM 或代码
  • 竞争窗口存在:目前没有公开的高质量 Deep Research 过程数据集
  • 与长文能力正交互补:站内已有长文本数据构建体系,Deep Research 数据可以复用长文能力

核心洞察

真实世界有大量”搜索的结果”但没有”搜索的过程”。综述论文、深度报告、调查性新闻——这些都是 Deep Research 的最终产物。如果我们能从这些最终产物逆向拆解出搜索过程,就能大规模合成”搜索过程 + 最终输出”的配对数据。

这跟站内已有的”综述反向构建”提案思路一致,但本提案更进一步:不只是拆解综述的写作过程,而是拆解信息获取过程——综述里引用了 30 篇论文,这 30 篇的搜索顺序是什么?作者为什么先看 A 再看 B?中间有没有走过弯路?


方法论

搜索树逆向拆解

输入:一篇高质量的综述/报告/深度分析(带参考文献列表)

Step 1:参考文献图谱构建

从参考文献列表构建引用关系图:

  • A 引用了 B → A 可能是从 B 出发找到的
  • A 和 B 被同一段引用 → 它们回答同一个子问题
  • 引用位置在文章中的顺序 ≈ 信息获取的逻辑顺序

Step 2:子问题分解

综述文章天然有结构化的章节标题。每个章节对应一个子问题,章节内引用的论文就是回答这个子问题所需的信息源。

原始综述结构:
├── §1 Introduction → 定义问题 (3 refs)
├── §2 Background → 需要了解什么 (5 refs)
├── §3 Method A → 第一类方法 (8 refs)
├── §4 Method B → 第二类方法 (6 refs)
├── §5 Comparison → 交叉对比 (12 refs)
└── §6 Future → 未来方向 (4 refs)

逆向推导的搜索树:
├── Q: "这个领域有哪些主流方法?"
│   ├── Search: "领域名 + survey"
│   ├── Found: §2 的 5 篇 background paper
│   ├── Sub-Q: "Method A 有哪些变体?"
│   │   ├── Search: "Method A + variants + benchmark"
│   │   └── Found: §3 的 8 篇
│   └── Sub-Q: "Method B 相比 A 优势在哪?"
│       ├── Search: "Method A vs Method B"
│       └── Found: §5 的对比论文

Step 3:搜索策略轨迹合成

对每个子问题,合成一条搜索轨迹:

  1. 初始查询:从子问题生成搜索关键词
  2. 结果评估:看到搜索结果后决定读哪些
  3. 信息提取:从选中文档提取关键信息
  4. 查询调整:信息不足时如何修改搜索词
  5. 交叉验证:不同来源说法冲突时怎么处理

关键:步骤 4 和 5 是最有训练价值的部分——模型需要学会”我现在知道什么、还缺什么、下一步搜什么”。

数据格式

<task>
写一篇关于 [主题] 的深度调研报告
</task>

<search_trajectory>
[Step 1] Query: "主题 + overview"
[Step 1] Results: [title1, snippet1], [title2, snippet2], ...
[Step 1] Decision: 打开 result_1 和 result_3(snippet 相关度更高)
[Step 1] Extract: "发现两个主要方向: A 和 B。A 更成熟,B 是新兴方向。"
[Step 1] Reflection: "需要分别深入了解 A 和 B,先从 A 开始因为文献更多。"

[Step 2] Query: "方向A + benchmark + 2025 2026"
[Step 2] Results: ...
[Step 2] Decision: ...
[Step 2] Extract: ...
[Step 2] Reflection: "发现 A 方向有 3 个主流方法。但 result_2 和 result_4 的数据有矛盾,需要找原始论文核实。"

[Step 3] Query: "方向A method1 原始论文 arXiv"
...(验证性搜索)
</search_trajectory>

<final_output>
[结构化的调研报告,每段标注信息来源]
</final_output>

数据源

来源规模质量
arXiv Survey 论文~5K 篇/年(cs.*)高——有完整参考文献
Annual Review 综述~2K 篇极高——领域权威
Distill.pub / LilLog 等技术博客~500 篇高——结构清晰
维基百科 Featured Articles~6K 篇中高——有详细脚注
调查性新闻报道~10K 篇中——引用较松散

质量控制

  1. 参考文献可达性:逆向推导的搜索查询,用真实搜索引擎跑一次,检查目标论文是否出现在前 10 结果中。如果不出现,说明搜索路径不合理。
  2. 信息覆盖完整性:合成的搜索轨迹提取的信息,能否覆盖最终报告中 90% 的关键事实。
  3. 决策合理性:在每个分支点,Agent 的选择是否是最高效的(不需要最优,但不能明显低效)。

规模估算

  • 输入:10K 篇高质量综述/报告
  • 逆向拆解后:~50K 条搜索子轨迹(平均每篇拆出 5 个子问题)
  • 合成完整轨迹后:~10K 条完整 Deep Research 轨迹 / ~500M tokens
  • 质量过滤后(60% 通过率):~6K 条 / ~300M tokens

与已有方案的关系

  • 综述反向构建(站内已有):聚焦写作过程,本提案聚焦信息获取过程,两者互补
  • InfoSeek(ICLR 2026):信息驱动→QA 对,本提案需求驱动→完整搜索轨迹,更适合中训练
  • SimpleDeepSearcher(RUC):模拟真实搜索行为生成数据,但受限于搜索引擎的实时调用成本。本提案从已有的高质量文档逆向生成,不依赖实时搜索

落地路径

  1. Week 1:从 arXiv cs.CL/LG 抓取 1000 篇 2024-2026 Survey 论文 + 参考文献列表
  2. Week 2:实现参考文献图谱构建 + 子问题分解 pipeline
  3. Week 3:实现搜索轨迹合成器(LLM-based),生成首批 500 条完整轨迹
  4. Week 4:质量检查——用真实搜索引擎验证搜索路径可达性
  5. Week 5-6:扩展到 5K 篇综述,产出 3K+ 条高质量搜索轨迹