返回评测
推理 数学-基础 未饱和 模态 · 文本 任务 · 数学求解

LiveMathematicianBench

基于最新 arXiv 定理的动态多选题基准,通过证明草图引导的干扰项和抗替换机制评估 LLM 的研究级数学推理能力

多机构合作 ·

考察能力

研究级数学推理 定理理解 证明草图利用 逻辑分类推理 抗替换推理

构建信息

数据规模
动态更新的多选题集,基于最新 arXiv 论文定理构建
构建方式
从训练截止后的 arXiv 论文提取定理 + 证明草图引导的干扰项生成 + 抗替换机制
评测方式
多选题准确率 + 双模式协议(标准 + 抗替换)
核心指标
标准准确率 + 抗替换准确率

模型效果排行

🥇 Gemini-3.1-pro-preview
43.5%(标准模式最佳) 2026-04
🥈 GPT-5.4
30.6%(抗替换模式最佳) 2026-04

为什么重要

标准数学基准面临两大核心问题:训练数据污染和模式匹配而非真正推理。LiveMathematicianBench 同时解决这两个问题——它基于模型训练截止日期之后发表的 arXiv 定理动态生成题目,确保抗污染;引入证明草图引导的干扰项和抗替换机制,区分模型是在”识别答案”还是在”实质性推理”。

核心设计

基准从最新 arXiv 论文中提取定理,建立了 13 类逻辑分类体系(蕴含、等价、存在性、唯一性等),支持对不同推理形式的细粒度评估。干扰项通过证明草图中的高层策略生成,模拟看似合理但实际无效的证明方向。双模式协议(标准 + 抗替换)揭示模型真实推理能力与表面模式匹配之间的差距。

关键发现

在标准模式下,最佳模型 Gemini-3.1-pro-preview 仅达到 43.5%,基准远未饱和。更值得注意的是抗替换模式下的表现:GPT-5.4 以 30.6% 领先,而 Gemini-3.1-pro-preview 骤降至 17.6%——低于 20% 的随机基线,说明其在标准模式下的表现很大程度上依赖答案识别而非真正推理。提供证明草图后模型准确率一致性提升,证实模型能利用高层证明策略辅助推理。

数学推理 动态基准 抗污染 证明 定理 Live Benchmark