返回评测
推理 数学-证明 未饱和 模态 · 文本 任务 · 数学求解

Putnam-AXIOM

基于 Putnam 数学竞赛的自动化评测,要求模型给出完整证明并自动验证

MIT ·

考察能力

数学证明 形式化推理 竞赛数学

构建信息

数据规模
236 problems (Putnam 1985-2023)
评测方式
自动验证(Lean 4 / SymPy)
核心指标
Solve Rate (%)

模型效果排行

🥇 o3
~8%
🥈 Claude 4 Opus
~5%
🥉 GPT-5
~6%

为什么重要

Putnam 竞赛是北美最难的大学数学竞赛,中位数得分通常为 0 分。Putnam-AXIOM 将这些难题转化为可自动验证的评测,是测量模型高阶数学推理的前沿基准。

构建方式

  1. 收集 1985-2023 年 Putnam 竞赛真题
  2. 将部分题目形式化为 Lean 4 可验证格式
  3. 数值答案用 SymPy 自动验证

任务示例

问题:“Prove that for every positive integer n, the number n! + 1 is not a perfect power.”

关键发现

  • 所有前沿模型解题率均低于 10%
  • 证明类题目比计算类更难
  • 形式化验证消除了评估模糊性

关联基准

不足与展望

  • 题库规模有限(236 题)
  • 形式化覆盖不完整
  • 部分题目可能出现在训练数据中
数学竞赛 Putnam 证明 形式化