为什么重要
深度研究 Agent 的评测长期被一个结构性问题困扰:只看最终答案对不对,不问中间证据链走没走通。Mr.LHDR 是为数不多把”过程”做成可计算指标的基准。
它给每道题标注了一张隐藏的 Node-Relation 图——不是浏览动作日志,而是一组”要推出答案,必须先确立哪些中间结论”的必要结论集合,以及结论之间有向无环的先决关系。平均每题需要 12.1 个必要中间结论,平均依赖深度 10.4(中位 10,最深 18)。作为对比,MM-BrowseComp 平均只有 3.0 个 checklist 项。
这个设计的直接后果是:它把”碰巧猜对答案”和”真把证据链走完”分开了。结果也确实分开了——最强的 GPT-5.5 也只有 43.1% 的最终答案准确率,严格口径(答案 + 全部必要中间结论都对)掉到 34.3%。一个 102 题的小基准,把当前所有顶级深研系统都压在 45% 以下。
构建方式:七道闸门
论文把质量控制做成了显式的七项准入标准,每条都有对应的失败条件与处置动作:
| 闸门 | 检查内容 | 失败条件 |
|---|---|---|
| 答案唯一性 | 最终答案简短、稳定、唯一、可验证 | 存在多个等价答案,或答案随时间变化 |
| 无路径泄漏 | 中间节点、关系、checklist 与答案全部隐藏 | 题目本身可以当步骤清单照着做,或直接搜到 |
| 不可约 checklist | 每一项都是必要中间结论,而非浏览动作 | 删掉某步答案仍可推出,或该步纯属操作性动作 |
| 来源支撑 | 关键节点、关系、checklist 项与答案都有来源 | 关键论断无可检查 URL,或仅靠单一脆弱来源 |
| 多模态必要性 | 非文本证据会改变推理状态 | 图/地图/PDF/视频/表格只是装饰,可被纯文本搜索绕过 |
| 捷径过滤 | 强联网模型无法一次直接检索解出 | 参考答案或完整路径能被直接搜到 |
| 元数据审计 | 类别、模板标签、操作标签、图像与来源字段一致 | 元数据缺失、不一致或泄漏 |
数据集侧的最终统计:102 题、1,231 条 checklist 步骤、818 个来源 URL(平均每题 8.0 个)、101 个图像资产(99.0% 的题带图)。8 个主题类、2 种作者模板(Linear 73 题 / Multi-branch 29 题)、4 种操作标签(约束 74.5%、数值 29.4%、符号 79.4%、时序 17.6%)。
四个指标:为什么 DACS 是关键
| 指标 | 含义 | 回答的问题 |
|---|---|---|
| OA | 最终答案正确率 | 答对了没有? |
| SA | 答案正确 且 全部必要结论都陈述正确 | 答对了,过程也完整吗? |
| CS | 响应中正确陈述的 checklist 结论比例(不论位置) | 覆盖了多少中间结论? |
| DACS | 递归地要求每个结论的全部先决祖先也满足才给分 | 覆盖的中间结论是”连着的”还是”散的”? |
DACS 用每题专属的 DAG 递归计分,定义为 s(i,j) = a(i,j) × ∏ s(i,k)(k 取遍 j 的直接先决集)——某个结论只要有一个必需祖先缺失,它以及它的下游全部不计分。这与”无序 checklist 覆盖”或”子目标覆盖率”有本质区别:独立分支的分数会被保留,断链分支的分数会被扣掉。
论文自己也留了诚实的边界:这些指标只看提交出来的响应,不看 Agent 内部推理,也不能证明某条结论真的来自检索而非编造。所以它们度量的是”陈述出来的、依赖一致的结论”,不是”证据链真的走完了”。
关键发现
1. 最终答案准确率系统性高估任务完成度。 OA 与 SA 的落差普遍存在:GPT-5.5 从 43.1% 掉到 34.3%(−8.8pp),o4-mini 从 35.3% 掉到 20.6%(−14.7pp),o3 Deep Research 从 32.4% 掉到 19.6%(−12.8pp)。反过来,高 DACS 也不意味着高 OA——指标之间不能互相替代。
2. 图像确实在推理链里干活,不是摆设。 同一开源 VLM(Qwen3-VL-235B)在”给图”与”不给图”两组上跑全部 102 题:CS 从 26.9% 升到 39.3%(+12.4),DACS 从 21.6% 升到 34.2%(+12.6,95% CI [6.9, 18.9]),bootstrap 重采样中 100% 为正。有意思的是收益集中在过程指标上——最终答案准确率只从 3.9% 升到 7.8%。图像的贡献是让模型能陈述出更多依赖受限的中间环节,而不是直接把答案送出来。
3. 证据链越长,严格完成率单调下降。 按 checklist 长度分成 5 档(10 / 11–12 / 13–15 / 16–18 / 19+),在样本量足够的三档(n≥20)上,每个代表模型的 SA 都随长度单调下降。三个模型都在 13–15 档触到 DACS 最低点。
4. 无工具 Gemini 的高 DACS 是一个反直觉信号。 Gemini 3.1 Pro 在不联网、只给题图的条件下 DACS 达到 70.1%,高于所有非 Gemini 的无工具模型(29.0%–37.8%)。论文给出的解释是它的 CS 与 DACS 差距很小(说明陈述正确的结论大多也满足先决依赖),只有 12.7% 的题 DACS 为零、33.3% 的题达到完全依赖一致覆盖。但它的 OA/SA 仍然很低——能覆盖大量中间结论,却常常漏掉一两个把链闭合所需要的环节。在 12 个独立 judge 下,每个 judge 都至少有一个 Gemini 模型排在 DACS 前二,说明这个模式是稳定的而非 judge 偏差。
5. 专用深研系统与框架型 Agent 没有想象中强。 o3 Deep Research(32.4% OA)是专用系统里最高的,仍低于 GPT-5.5 和 o4-mini 这类工具增强 VLM;DeerFlow 配 Qwen3-VL-235B 只有 15.7% OA,配 kimi-k2.5 更是低到 3.9%。
局限性
- 只有 102 题,且论文明确说明相邻系统的置信区间大幅重叠,多数模型间差异在统计上不可分离——这只支持”能力模式”判断,不支持精确排名。
- Judge 是 Qwen3-VL-235B,单 judge 打分;论文用 12 judge 池做了稳健性检查,但主表仍是单 judge。
- 指标只看提交响应,无法验证结论是否真的来自检索。
- 评测对象以 OpenAI / Google / Anthropic 上一代模型为主,尚未覆盖 GPT-6 Astra、Claude Opus 5 等 2026-09 新一代。
关联基准
- BrowseComp:同为开放网络短答案检索,但不要求多模态、无中间结构标注
- DeepSearchQA:因果链式开放网络研究,只评结果不评中间链
- GAIA:通用 AI 助手长程任务
- AssistantBench:真实网页任务自动化