返回评测
Agent Agent-深度研究 未饱和 模态 · 文本 任务 · 开放生成 arXiv preprint (cs.AI)

Mr.LHDR 1.0

102 道隐藏依赖图驱动的开放网络深研题,平均 12.1 个必要中间结论、依赖深度 10.4;最强系统 GPT-5.5 仅 43.1% OA,DACS 揭示最终答案正确率系统性高估任务完成度

MBZUAI(穆罕默德·本·扎耶德人工智能大学)/ 中国科学技术大学 / 浙江大学 ·

考察能力

长程证据链 多模态证据整合 开放网络检索 依赖一致推理 状态维护

构建信息

数据规模
102 items / 1,231 checklist steps / 818 source URLs / 101 image assets / 8 大类
构建方式
隐藏的 Node-Relation DAG 标注 + AI 辅助构建 + 6 人标注团队三轮验证,7 道质量闸门逐条卡
评测方式
Qwen3-VL-235B 作为 LLM Judge 判定最终答案与 checklist 完成向量,冻结依赖图上确定性计算 OA / SA / CS / DACS
核心指标
OA(最终答案准确率)/ SA(严格准确率)/ CS(checklist 覆盖率)/ DACS(依赖一致覆盖率)

模型效果排行

🥇 GPT-5.5 (OpenAI, 工具增强 VLM)
43.1% OA(SA 34.3% / CS 73.6% / DACS 70.3%) 2026-09
🥈 o4-mini (OpenAI, 工具增强 VLM)
35.3% OA(SA 20.6% / DACS 44.9%) 2026-09
🥉 o3 (OpenAI, 工具增强 VLM)
34.3% OA(SA 15.7% / DACS 34.1%) 2026-09
4. Gemini 3.1 Pro (Google, 无工具 VLM,仅给题图)
34.3% OA(SA 31.4% / DACS 70.1%) 2026-09
5. o3 Deep Research (OpenAI, 专用深研系统)
32.4% OA(SA 19.6% / DACS 49.8%) 2026-09
6. GPT-5.4 (OpenAI, 工具增强 VLM)
30.4% OA(SA 22.5% / DACS 63.9%) 2026-09
7. Gemini 3 Flash (Google, 无工具 VLM)
30.4% OA(SA 24.5% / DACS 68.6%) 2026-09
8. Claude Opus 4.7 (Anthropic, 工具增强 VLM)
29.4% OA(SA 27.5% / DACS 65.7%) 2026-09

为什么重要

深度研究 Agent 的评测长期被一个结构性问题困扰:只看最终答案对不对,不问中间证据链走没走通。Mr.LHDR 是为数不多把”过程”做成可计算指标的基准。

它给每道题标注了一张隐藏的 Node-Relation 图——不是浏览动作日志,而是一组”要推出答案,必须先确立哪些中间结论”的必要结论集合,以及结论之间有向无环的先决关系。平均每题需要 12.1 个必要中间结论,平均依赖深度 10.4(中位 10,最深 18)。作为对比,MM-BrowseComp 平均只有 3.0 个 checklist 项。

这个设计的直接后果是:它把”碰巧猜对答案”和”真把证据链走完”分开了。结果也确实分开了——最强的 GPT-5.5 也只有 43.1% 的最终答案准确率,严格口径(答案 + 全部必要中间结论都对)掉到 34.3%。一个 102 题的小基准,把当前所有顶级深研系统都压在 45% 以下。

构建方式:七道闸门

论文把质量控制做成了显式的七项准入标准,每条都有对应的失败条件与处置动作:

闸门检查内容失败条件
答案唯一性最终答案简短、稳定、唯一、可验证存在多个等价答案,或答案随时间变化
无路径泄漏中间节点、关系、checklist 与答案全部隐藏题目本身可以当步骤清单照着做,或直接搜到
不可约 checklist每一项都是必要中间结论,而非浏览动作删掉某步答案仍可推出,或该步纯属操作性动作
来源支撑关键节点、关系、checklist 项与答案都有来源关键论断无可检查 URL,或仅靠单一脆弱来源
多模态必要性非文本证据会改变推理状态图/地图/PDF/视频/表格只是装饰,可被纯文本搜索绕过
捷径过滤强联网模型无法一次直接检索解出参考答案或完整路径能被直接搜到
元数据审计类别、模板标签、操作标签、图像与来源字段一致元数据缺失、不一致或泄漏

数据集侧的最终统计:102 题、1,231 条 checklist 步骤、818 个来源 URL(平均每题 8.0 个)、101 个图像资产(99.0% 的题带图)。8 个主题类、2 种作者模板(Linear 73 题 / Multi-branch 29 题)、4 种操作标签(约束 74.5%、数值 29.4%、符号 79.4%、时序 17.6%)。

四个指标:为什么 DACS 是关键

指标含义回答的问题
OA最终答案正确率答对了没有?
SA答案正确 且 全部必要结论都陈述正确答对了,过程也完整吗?
CS响应中正确陈述的 checklist 结论比例(不论位置)覆盖了多少中间结论?
DACS递归地要求每个结论的全部先决祖先也满足才给分覆盖的中间结论是”连着的”还是”散的”?

DACS 用每题专属的 DAG 递归计分,定义为 s(i,j) = a(i,j) × ∏ s(i,k)(k 取遍 j 的直接先决集)——某个结论只要有一个必需祖先缺失,它以及它的下游全部不计分。这与”无序 checklist 覆盖”或”子目标覆盖率”有本质区别:独立分支的分数会被保留,断链分支的分数会被扣掉。

论文自己也留了诚实的边界:这些指标只看提交出来的响应,不看 Agent 内部推理,也不能证明某条结论真的来自检索而非编造。所以它们度量的是”陈述出来的、依赖一致的结论”,不是”证据链真的走完了”。

关键发现

1. 最终答案准确率系统性高估任务完成度。 OA 与 SA 的落差普遍存在:GPT-5.5 从 43.1% 掉到 34.3%(−8.8pp),o4-mini 从 35.3% 掉到 20.6%(−14.7pp),o3 Deep Research 从 32.4% 掉到 19.6%(−12.8pp)。反过来,高 DACS 也不意味着高 OA——指标之间不能互相替代。

2. 图像确实在推理链里干活,不是摆设。 同一开源 VLM(Qwen3-VL-235B)在”给图”与”不给图”两组上跑全部 102 题:CS 从 26.9% 升到 39.3%(+12.4),DACS 从 21.6% 升到 34.2%(+12.6,95% CI [6.9, 18.9]),bootstrap 重采样中 100% 为正。有意思的是收益集中在过程指标上——最终答案准确率只从 3.9% 升到 7.8%。图像的贡献是让模型能陈述出更多依赖受限的中间环节,而不是直接把答案送出来。

3. 证据链越长,严格完成率单调下降。 按 checklist 长度分成 5 档(10 / 11–12 / 13–15 / 16–18 / 19+),在样本量足够的三档(n≥20)上,每个代表模型的 SA 都随长度单调下降。三个模型都在 13–15 档触到 DACS 最低点。

4. 无工具 Gemini 的高 DACS 是一个反直觉信号。 Gemini 3.1 Pro 在不联网、只给题图的条件下 DACS 达到 70.1%,高于所有非 Gemini 的无工具模型(29.0%–37.8%)。论文给出的解释是它的 CS 与 DACS 差距很小(说明陈述正确的结论大多也满足先决依赖),只有 12.7% 的题 DACS 为零、33.3% 的题达到完全依赖一致覆盖。但它的 OA/SA 仍然很低——能覆盖大量中间结论,却常常漏掉一两个把链闭合所需要的环节。在 12 个独立 judge 下,每个 judge 都至少有一个 Gemini 模型排在 DACS 前二,说明这个模式是稳定的而非 judge 偏差。

5. 专用深研系统与框架型 Agent 没有想象中强。 o3 Deep Research(32.4% OA)是专用系统里最高的,仍低于 GPT-5.5 和 o4-mini 这类工具增强 VLM;DeerFlow 配 Qwen3-VL-235B 只有 15.7% OA,配 kimi-k2.5 更是低到 3.9%。

局限性

  • 只有 102 题,且论文明确说明相邻系统的置信区间大幅重叠,多数模型间差异在统计上不可分离——这只支持”能力模式”判断,不支持精确排名。
  • Judge 是 Qwen3-VL-235B,单 judge 打分;论文用 12 judge 池做了稳健性检查,但主表仍是单 judge。
  • 指标只看提交响应,无法验证结论是否真的来自检索。
  • 评测对象以 OpenAI / Google / Anthropic 上一代模型为主,尚未覆盖 GPT-6 Astra、Claude Opus 5 等 2026-09 新一代。

关联基准

  • BrowseComp:同为开放网络短答案检索,但不要求多模态、无中间结构标注
  • DeepSearchQA:因果链式开放网络研究,只评结果不评中间链
  • GAIA:通用 AI 助手长程任务
  • AssistantBench:真实网页任务自动化
深度研究 多模态 长程推理 依赖图 过程指标 开放网络