返回评测
推理 数学-基础 已饱和 模态 · 文本 任务 · 数学求解

FrontierMath

Epoch AI 联合 60+ 位数学家(含陶哲轩等菲尔兹奖得主)打造的研究级数学基准;Tier 4 v2 于 2026-10 出现首个满分——GPT-6.1 Sol 的 100.0%,但这是全榜唯一不打印置信区间的一行,而第二名的 97.6%±2.4 上界恰好也到 100%。项目已转向未解难题 Open Problems 与 Lean 形式化的 Erdős 问题

Epoch AI ·

考察能力

研究级数学 证明 数论 代数几何 组合数学 Lean 形式化

构建信息

数据规模
Tiers 1–4 非公开;Tier 4 v2 审计后剩 43 题;Erdős 68 道形式化开放问题
构建方式
60+ 位数学家围绕自身研究方向短期攻关后压缩为可自动验证的问题;2026-06 v2 独立审计修正 12 题、移除 7 题
评测方式
答案可程序验证(整数/有理数/多项式);题目不公开以防污染
核心指标
Accuracy (%) / 累计解题率

资源链接

模型效果排行

🥇 GPT-6.1 Sol (OpenAI, 2026-09-29 发布, Epoch AI 独立跑 Max (With Tools), 榜期 2026-10-03; ⚠️ 全榜唯一不打印置信区间的一行, 且它在更简单的 Tiers 1-3 v2 上只有 93.7%)
100.0% 2026-10
🥈 GPT-6 Astra (OpenAI, Tier 4 v2, 2026-09-03 发布, 补上最后一道未解题; Epoch 独立跑 ±2.4, 区间上界恰为 100.0%)
97.6% ±2.4 2026-09
🥉 Claude Opus 5.5 (Anthropic, 2026-09-22 发布, Epoch AI 独立跑 Max (With Tools))
95.0% ±4.1 2026-10
4. Claude Fable 5 (Anthropic, Tier 4 v2)
90.2% ±4.6 2026-08
5. GPT-6 Sol (OpenAI, Epoch AI 独立跑 Max (With Tools))
90.0% ±5.2 2026-10
6. Claude Fable 5.1 (Anthropic, Epoch AI 独立跑 Max (With Tools))
87.8% 2026-10
7. GPT-5.6 Sol (OpenAI; 厂商自报最佳 83.0%, Epoch AI 独立跑 Max (With Tools) 82.9%, 两值并存)
83.0% 2026-07

为什么重要

当 AIME 被 o3 做到 96.7%、MATH 被做到 97% 时,FrontierMath 证明了”数学推理的天花板还远着”。这些题目来自真正的数学研究前沿——组合、数论、代数几何等——即使是人类专家也需要数小时甚至数天才能解答。

构建方式

  1. 由 60+ 位数学家设计,覆盖数论、代数几何、组合数学等领域
  2. 每道题的答案是可程序验证的(整数、有理数、多项式等)——避免了主观评判
  3. 非公开题目:为防止数据污染,题目不公开发布
  4. 题目横跨本科到前沿研究水平

任务示例(公开的示例题)

示例 1(数论):

“设 p 是满足某个特定丢番图方程的最小素数…”(需要数论深度推理)

示例 2(代数几何):

“计算某个代数簇的欧拉特征数…”(需要研究级代数几何知识)

具体题目不公开,但 Epoch AI 描述:“数学家通常需要数小时到数天才能解决,有些题目出自尚未发表的研究成果。“

关键发现

  • o3 是唯一超过 2% 的模型,达到 ~25%——说明 scaling test-time compute 对困难推理有效
  • 其他所有模型(包括 GPT-4o、Claude 3.5)都低于 2%
  • 2026-09 更新:这道”本该撑几年”的高墙,从 2025-07 Tier 4 发布时的约 5% 到 97.6%,只用了约 14 个月

Tier 4 的坍塌曲线

时间事件Tier 4 最高分
2024-11-07FrontierMath 发布,含 Tier 1–3(300 题)—
2025-07-11Tier 4 加入,最初 50 题,覆盖分析/数论/组合/拓扑/代数几何~5%
2025-07全部模型历次测试合计只解出 3 题,且依赖未被充分论证的假设~5%
2026-06v2 独立审计:先用 GPT-5.5 与 Claude Opus 4.7 筛查疑点,再由数学家逐题复核;Tier 4 修正 12 题、移除 7 题,留 43 题—
2026-07GPT-5.6 Sol83.0%
2026-08Claude Fable 590.2%
2026-09-03GPT-6 Astra 97.6%,并补上此前唯一一道从未被 AI 解出的题97.6%
2026-10-03GPT-6.1 Sol 100.0%(Max, With Tools),43 题全解100.0%

Epoch AI 据此按”累计规则”宣布 Tier 4 饱和——每一道 Tier 4 题目都至少被某个模型在某次尝试中解出过一次。Marquette University 的 Jay Pantone 评价,Astra 的解法与他本人的解法高度接近,而不是走了数值捷径。

官方曾在公开样题页写过”其中一些题,可能几十年都不会被 AI 解决”。这句话的保质期不到 14 个月。

最新进展

  • 2026-09-11:Epoch AI 更新其 AI Benchmarks & Capabilities 页面,GPT-6 Astra 以 167 分位居 Epoch Capabilities Index 首位;页面覆盖 80 个基准。
  • 2026-09-12:多家报道确认 Tier 4 饱和。Epoch 的定性是 “Astra saturates FrontierMath Tier 4 with a 98% score, having already helped solve long-standing open problems in mathematics”(OpenAI 源表述,97.6% / 约 98% 为同一结果的不同取整)。
  • 饱和不等于”数学被解决”:项目本身已往下一阶段走——在 Tiers 1–4 之外新增了两个方向:
    • Open Problems:直接拿尚未被数学界解决的 50 道研究问题考模型(Epoch 公布时 AI 只解出 3 道)
    • FrontierMath Erdős:把 Erdős 开放问题形式化进 Lean,要求 AI 写出能通过形式化验证的完整证明
  • Erdős 上的真实差距:GPT-6 Astra 在 68 道 Erdős 问题中只解决 2 道。Tier 4 的 97.6% 与 Erdős 的 2/68 并列看,才是 2026-09 数学能力的完整画像——能解”可自动验证的难题”,不等于能产出”经得起形式化检验的新证明”。

2026-10-10 更新:Tier 4 v2 出现首个满分,但它没有误差棒

Epoch AI 的 FrontierMath Tier 4 v2 榜在 2026-10-03 刷新后,头名变成了 GPT-6.1 Sol 的 100.0%(Max, With Tools),43 题全解,是这张 70 模型榜上唯一的满分行。第二仍是 GPT-6 Astra 的 97.6%,第三是 Claude Opus 5.5 的 95.0%(均标注 Epoch 独立跑、Max、带工具)。

这个 100% 需要三条并列的限定,缺一条就会读错:

  1. 它是全榜唯一不打印置信区间的一行。 Epoch 在其余每一行都给了 ±2.4 到 ±6.7 的区间(Astra ±2.4、Opus 5.5 ±4.1、Fable 5 ±4.6、GPT-6 Sol ±5.2、Google DeepMind AI co-mathematician ±6.7)。满分行没有区间,榜上也没说明是”无法计算”还是”未发布”。
  2. Astra 的区间上界恰好也是 100.0%。 97.6% ± 2.4 的顶端就是满分,而把两者分开的正是这 2.4 分。在这张榜上,“Sol 比 Astra 更会做数学”这个命题无法被确立——只能说它这次采样的均值更高。
  3. 同一套 harness 下,Sol 在更容易的 Tiers 1-3 v2 上只有 93.7%,与 Astra 打平,低于它在 Tier 4 的 100%。 一个在简单分层上更低、在 hardest 分层上满分的结果,更像采样波动,而不是能力跃迁。

对照着看,Tiers 1-3 v2 的头部是 Sol 93.7% / Astra 93.7% / Opus 5.5 91.2%,开源加权重的 Kimi K3 约 72%;Tier 4 v2 的最佳开源权重条目只有 Qwen3.8-Max 的 46.3%(并列第 19)。闭源前沿与开源权重之间还有一条 50pp 量级的沟。

另外,本轮把 topResults 里两条 2025 年初版题库口径的历史行(o3 ~25%、其他模型 <2%)移出了榜单——它们与 Tier 4 v2 不同量,留着会让”榜单降序”看起来像一条连续曲线。原文数值已记在此处备查。

读法

  • 引用 100.0% 时带上”无误差棒 + Astra 上界同为 100%“,不要写成”首个在 Tier 4 上做到完美的模型”这类结论句。
  • “Tier 4 已饱和”这个判断在 2026-09 就已成立(累计规则:每题至少被某模型解出过一次),100% 只是把”累计”换成了”单次运行”。
  • 真正的未饱和部分仍在 Tier 4 之外:Open Problems(50 道未解,AI 解出 3 道)与 Erdős(68 道 Lean 形式化,Astra 只解 2 道)。

局限性与展望

  • “已饱和”只针对 Tier 4(v2,43 题)。Tier 1–3 与两个新方向(Open Problems / Erdős)远未饱和,本卡的 saturation 字段按最前沿分层标注。
  • 题库错误率高于预期:OpenAI 在测试中发现 FrontierMath 的错误比预想更多,才触发了 2026-06 的 v2 审计。这说明即便是”专家出题”,在没有形式化验证前也难以保证正确。
  • 累计饱和规则偏宽松:只要任意模型在任意一次尝试中解出即计入,与”单次运行稳定解出”不是一回事。引用 97.6% 时应带上这个口径。
  • 非公开题库的副作用:题目不公开虽然防污染,但也让独立复核无法进行——v2 审计本身正是对这一点的补救。
数学 极难 非公开 Tier 4 已饱和 Erdős Lean