返回评测
长文本 长上下文-理解 未饱和 模态 · 文本 任务 · 选择 / 判断 KnowledgeMR @ CVPR 2026 (non-archival)

GDP.pdf 1.0

100 道题覆盖十个职业领域、4,592 页原始 PDF,用 1,275 条专家原子评分标准打分,最强模型全通过率仅 33.2%

Surge AI ·

考察能力

文档落地推理 跨页证据综合 表格与图表理解 脚注与排除项识别 交叉引用 拒答

构建信息

数据规模
100 题 / 4,592 页原始 PDF / 1,275 条原子评分标准
构建方式
十个领域的从业者出题,候选题需至少两个前沿多模态模型实质性答错才被收录
评测方式
每题配专家 rubric,逐条原子标准由裁判模型独立判定;全通过才算通过
核心指标
All-pass Rate(全通过率)+ Criterion Pass Rate(标准通过率)

模型效果排行

🥇 GPT-6 Astra (max, Artificial Analysis 独立实现)
33.2% 2026-09
🥈 GPT-6 Astra (xhigh, Artificial Analysis 独立实现)
32.2% 2026-09
🥉 GPT-6.1 Sol (OpenAI, 2026-09-29 发布图表, high 档, 约 $0.35/任务; ⚠️ 存在两种读法:32.0%(high)与 31.8%(xhigh),本条取前者; low 27.0% / medium 30.0%,GDP.pdf 与 DeepSWE 这两项都在 high 档见顶而非 max 档)
32.0% 2026-09
4. GPT-6 Astra (high, Artificial Analysis 独立实现)
31.0% 2026-09
5. Claude Fable 5.1 (max with fallback, Artificial Analysis 独立实现)
26.2% 2026-09
6. GPT-6 Sol (OpenAI, max, Artificial Analysis Intelligence Index v4.3 分解, 2026-09-22)
24.8% (all-pass) 2026-09
7. GPT-6 Luna (OpenAI, max, Artificial Analysis Intelligence Index v4.3 分解, 2026-09-22)
20.4% (all-pass) 2026-09

为什么重要

文档 AI 过去的评测把能力切碎了测:OCR 归 OCR、版面分析归版面分析、图表 QA 归图表 QA。任何一项拿高分,都不说明模型能回答一个从业者真正会问的问题。GDP.pdf 直接测后半件事——输入是原始 PDF 而不是清洗后的抽取文本,问题由金融、医疗、法律、工程、建筑、供应链、保险、房地产、人力资源等十个领域的在职人员按自己说话的方式写出来。

它的筛选条件很硬:一道候选题只有在至少两个前沿多模态模型以”决定性证据遗漏、关键事实编造或答案错误”的方式答错时才被收录,风格差异之类不算。这让它天然抗饱和——2026 年 7 月的 v2 结果里 17 个前沿模型最好的也只有 30.7%,最差的 2%。

2026 年 9 月 4 日,Artificial Analysis 把 GDP.pdf 纳入 Intelligence Index v4.2,理由是现有长上下文评测区分度不足。同批被移除的是 GPQA Diamond(已饱和)。

构建方式

  • 出题人:十个领域的在职专业人士,题目-文档对形式
  • 收录门槛:≥2 个前沿多模态模型实质性失败
  • 评分:每题一份专家 rubric,拆成原子标准,全库共 1,275 条;另有 11 个能力轴分三层(基础抽取与落地、结构与多模态理解、交叉引用与拒答)
  • 公布内容:源 PDF、prompt、rubric、领域标签全部公开在 HuggingFace,评测 harness 在 GitHub

输入侧强调”脏”:多页表格、侧边栏、图例、脚注、附在文末的修订条款、扫描噪声都在。决定答案的那句话可能躺在距它限定三页远的脚注里。

关键发现

  • 全通过率极低:必须满足该任务每一条原子标准才算通过,答出主结论但漏掉一个脚注即判失败。Artificial Analysis 的独立实现里,58 个模型中仅 27 个有成绩,榜首 33.2%。
  • 失败模式高度集中:表格错位、图表误读、跳过脚注与排除项、平面图符号数错、扫描噪声、后出条款覆盖前文。这不是推理能力问题,是证据定位问题。
  • 推理档位影响显著:GPT-6 Astra 从 low 到 max 全通过率单调爬升到 33.2%,说明该基准测的是”愿意为长文档付多少算力”,也是成本可控性的一部分。
  • 两版实现不可互换:Surge 官方榜(17 模型,最优 30.7%)与 Artificial Analysis 榜(文档用 LiteParse 预处理、支持图像的模型额外给页面渲染图、每任务采样 5 次、GPT-5.6 Luna Medium 判分)在解析器、交付方式和裁判上都不一致,官方明确提示不要直接对比。

最新进展

  • 2026-10-05 补录:GPT-6.1 Sol 以 32.0% 插到 Astra 的 xhigh(32.2%)与 high(31.0%)之间,是继 Astra 之后第二个跨过 32% 的条目,也是本榜第一次出现非旗舰档位进入前三。 四条读法:① 同一条产品线一周内从 24.8% 抬到 32.0%(GPT-6 Sol 2026-09-22 → GPT-6.1 Sol 2026-09-29),涨幅超过 7pp;作为尺度参照,Astra 的 max 档也只有 33.2%——平价档与旗舰档在本榜的差距已收敛到 1.2pp。② ⚠️ 两种读法并存:对 OpenAI 发布图表的两次独立读数给出 32.0%(high,约 $0.35/任务)与 31.8%(xhigh,约 $0.37/任务),本卡取 32.0% 入表并把 31.8% 记在此处,不判真值。③ 推理档位不是单调的:Sol 6.1 在 GDP.pdf 上的 low / medium / high 分别是 27.0% / 30.0% / 32.0%,peak 在 high 而非 max——这与它自己在 DeepSWE 上的表现一致(high 75.2% 高于 max 71.9%),也和 GPT-6 Sol 在 AutomationBench 上「xhigh 不如 high」是同一族现象。“多给推理预算就一定更好”在本轮三个独立基准上被证伪。④ 口径提示:本条来自 OpenAI 发布图表,本列其余条目标注为 Artificial Analysis 独立实现;两者在 Astra 的 xhigh 档上给出同一个数(32.2%),可作为两条 lane 在 GDP.pdf 上基本对齐的旁证,但仍不建议跨来源比较小数点后一位。
  • 2026-09-22:GPT-6 Sol / Luna 上市,AA 独立实现榜首次列入 OpenAI 的低价档。GPT-6 Sol(max)24.8%、GPT-6 Luna(max)20.4%,落在 Astra 33.2% 与 Fable 5.1 26.2% 之后,均未进前三。两点值得记:① 这条曲线把”价格降一半能买到多少分”量化了——Luna 的价格约为 Astra 的百分之一($0.10/$0.50 vs $10/$50),拿到的是 Astra 约 61% 的分数;② 在 GDP.pdf 这种”漏一条脚注即判失败”的严格口径上,价格与分数的弹性远不如 Terminal-Bench 4.0 那类长程 Agent 任务(同批发布里 Sol 在 Terminal-Bench 4.0 上从 40% 提到 44%,在 GDP.pdf 上却没有对应的跃升)
  • ⚠️ 来源注记:Sol / Luna 的两个数值来自 Artificial Analysis Intelligence Index v4.3 的分解表(2026-09-22,max effort),本轮经二手转述取得,未能直接读到 AA 原页的图表数值。AA 原文只文字确认了同批的 Terminal-Bench 4.0(Sol 44% / Luna 13%)与 AutomationBench-AA(Sol 62% / Luna 53%)两项,与本表口径一致、四舍五入后吻合,可作间接佐证;GDP.pdf 一项目前为单一转述来源,若后续能读到 AA 原页请回填核对

关联基准与展望

关联:MRCR、DocBench、OCRBench、MP-DocVQA、LongBench。

值得盯两点。一是”全通过率”这种严格口径会不会成为长文档评测的新默认——它把”看着像对了”和”专业交付合格”分开,代价是分数长期停在 30% 附近,对模型迭代的正反馈弱。二是天然抗饱和的构建方式(先让模型错、再收录)能不能规模化:每轮前沿模型升级都要重筛题库,维护成本远高于静态数据集。

文档理解 长上下文 多模态 rubric 评分 Surge AI Artificial Analysis