为什么重要
文档 AI 过去的评测把能力切碎了测:OCR 归 OCR、版面分析归版面分析、图表 QA 归图表 QA。任何一项拿高分,都不说明模型能回答一个从业者真正会问的问题。GDP.pdf 直接测后半件事——输入是原始 PDF 而不是清洗后的抽取文本,问题由金融、医疗、法律、工程、建筑、供应链、保险、房地产、人力资源等十个领域的在职人员按自己说话的方式写出来。
它的筛选条件很硬:一道候选题只有在至少两个前沿多模态模型以”决定性证据遗漏、关键事实编造或答案错误”的方式答错时才被收录,风格差异之类不算。这让它天然抗饱和——2026 年 7 月的 v2 结果里 17 个前沿模型最好的也只有 30.7%,最差的 2%。
2026 年 9 月 4 日,Artificial Analysis 把 GDP.pdf 纳入 Intelligence Index v4.2,理由是现有长上下文评测区分度不足。同批被移除的是 GPQA Diamond(已饱和)。
构建方式
- 出题人:十个领域的在职专业人士,题目-文档对形式
- 收录门槛:≥2 个前沿多模态模型实质性失败
- 评分:每题一份专家 rubric,拆成原子标准,全库共 1,275 条;另有 11 个能力轴分三层(基础抽取与落地、结构与多模态理解、交叉引用与拒答)
- 公布内容:源 PDF、prompt、rubric、领域标签全部公开在 HuggingFace,评测 harness 在 GitHub
输入侧强调”脏”:多页表格、侧边栏、图例、脚注、附在文末的修订条款、扫描噪声都在。决定答案的那句话可能躺在距它限定三页远的脚注里。
关键发现
- 全通过率极低:必须满足该任务每一条原子标准才算通过,答出主结论但漏掉一个脚注即判失败。Artificial Analysis 的独立实现里,58 个模型中仅 27 个有成绩,榜首 33.2%。
- 失败模式高度集中:表格错位、图表误读、跳过脚注与排除项、平面图符号数错、扫描噪声、后出条款覆盖前文。这不是推理能力问题,是证据定位问题。
- 推理档位影响显著:GPT-6 Astra 从 low 到 max 全通过率单调爬升到 33.2%,说明该基准测的是”愿意为长文档付多少算力”,也是成本可控性的一部分。
- 两版实现不可互换:Surge 官方榜(17 模型,最优 30.7%)与 Artificial Analysis 榜(文档用 LiteParse 预处理、支持图像的模型额外给页面渲染图、每任务采样 5 次、GPT-5.6 Luna Medium 判分)在解析器、交付方式和裁判上都不一致,官方明确提示不要直接对比。
最新进展
- 2026-10-05 补录:GPT-6.1 Sol 以 32.0% 插到 Astra 的 xhigh(32.2%)与 high(31.0%)之间,是继 Astra 之后第二个跨过 32% 的条目,也是本榜第一次出现非旗舰档位进入前三。 四条读法:① 同一条产品线一周内从 24.8% 抬到 32.0%(GPT-6 Sol 2026-09-22 → GPT-6.1 Sol 2026-09-29),涨幅超过 7pp;作为尺度参照,Astra 的 max 档也只有 33.2%——平价档与旗舰档在本榜的差距已收敛到 1.2pp。② ⚠️ 两种读法并存:对 OpenAI 发布图表的两次独立读数给出 32.0%(high,约 $0.35/任务)与 31.8%(xhigh,约 $0.37/任务),本卡取 32.0% 入表并把 31.8% 记在此处,不判真值。③ 推理档位不是单调的:Sol 6.1 在 GDP.pdf 上的 low / medium / high 分别是 27.0% / 30.0% / 32.0%,peak 在 high 而非 max——这与它自己在 DeepSWE 上的表现一致(high 75.2% 高于 max 71.9%),也和 GPT-6 Sol 在 AutomationBench 上「xhigh 不如 high」是同一族现象。“多给推理预算就一定更好”在本轮三个独立基准上被证伪。④ 口径提示:本条来自 OpenAI 发布图表,本列其余条目标注为 Artificial Analysis 独立实现;两者在 Astra 的 xhigh 档上给出同一个数(32.2%),可作为两条 lane 在 GDP.pdf 上基本对齐的旁证,但仍不建议跨来源比较小数点后一位。
- 2026-09-22:GPT-6 Sol / Luna 上市,AA 独立实现榜首次列入 OpenAI 的低价档。GPT-6 Sol(max)24.8%、GPT-6 Luna(max)20.4%,落在 Astra 33.2% 与 Fable 5.1 26.2% 之后,均未进前三。两点值得记:① 这条曲线把”价格降一半能买到多少分”量化了——Luna 的价格约为 Astra 的百分之一($0.10/$0.50 vs $10/$50),拿到的是 Astra 约 61% 的分数;② 在 GDP.pdf 这种”漏一条脚注即判失败”的严格口径上,价格与分数的弹性远不如 Terminal-Bench 4.0 那类长程 Agent 任务(同批发布里 Sol 在 Terminal-Bench 4.0 上从 40% 提到 44%,在 GDP.pdf 上却没有对应的跃升)
- ⚠️ 来源注记:Sol / Luna 的两个数值来自 Artificial Analysis Intelligence Index v4.3 的分解表(2026-09-22,max effort),本轮经二手转述取得,未能直接读到 AA 原页的图表数值。AA 原文只文字确认了同批的 Terminal-Bench 4.0(Sol 44% / Luna 13%)与 AutomationBench-AA(Sol 62% / Luna 53%)两项,与本表口径一致、四舍五入后吻合,可作间接佐证;GDP.pdf 一项目前为单一转述来源,若后续能读到 AA 原页请回填核对
关联基准与展望
关联:MRCR、DocBench、OCRBench、MP-DocVQA、LongBench。
值得盯两点。一是”全通过率”这种严格口径会不会成为长文档评测的新默认——它把”看着像对了”和”专业交付合格”分开,代价是分数长期停在 30% 附近,对模型迭代的正反馈弱。二是天然抗饱和的构建方式(先让模型错、再收录)能不能规模化:每轮前沿模型升级都要重筛题库,维护成本远高于静态数据集。