📄 论文精读

FrontierScience 深度精读:
AI 能否完成专家级科学任务?

OpenAI 推出的新一代科学推理基准,包含奥赛级和博士级研究问题。GPT-5.2 最高仅 25% 的 Research 得分,揭示了 AI 科学能力的真实天花板。

📝 Miles Wang, Robi Lin, Kat Hu, Joy Jiao 等 · OpenAI 📅 2026 年 1 月 🔗 arXiv:2601.21165
科学推理 Benchmark OpenAI GPT-5 Olympiad PhD-level
160
开源黄金题数
77%
Olympiad SOTA
25%
Research SOTA
52pp
解题 vs 科研落差
⚡ 一句话总结

FrontierScience 是 OpenAI 推出的专家级科学推理基准,包含奥赛级(Olympiad)和博士级研究(Research)两个互补轨道。最强模型 GPT-5.2 在奥赛题上达 77%,但在开放式研究题上仅 25%——这 52 个百分点的落差,精确标定了当前 AI 在"解题"与"做研究"之间的鸿沟。

为什么需要这个基准?

现有基准已经饱和

科学基准测试遵循着一个熟悉的模式:设计 → 模型追赶 → 饱和 → 设计新基准。

基准类型SOTA问题
MMLU多选题>90%知识检索为主,非推理
GPQA (Diamond)博士级多选题>80%多选格式限制诊断能力
ScienceQA多选题>95%已完全饱和

这些基准的共同缺陷:多选格式有 25% 猜测基线,依赖已发表信息,封闭式答案无法评估科研过程能力。

FrontierScience 的解法:原创题目 + 双轨设计 + 基于评分标准(rubric)的细粒度评估。

双轨架构:两个世界

🏅 Olympiad 轨道

黄金题数100 道
出题者42 位奥赛奖牌获得者
总奖牌数108 枚
覆盖IPhO / IChO / IBO 级
答案类型封闭式数值/表达式
评分方式精确匹配
核心考察极端推理 + 计算

🔬 Research 轨道

黄金题数60 道
出题者45 位 PhD 科学家
资质博士/博后/教授
覆盖物理 / 化学 / 生物
答案类型开放式研究回答
评分方式Rubric 细粒度 0-10 分
核心考察研究方法论

关键设计选择

1. 原创性保证

所有题目均为原创,经过内部模型预评估排除简单题,答案经至少两位独立领域专家交叉验证。确保不在任何已公开数据集中出现。

2. Rubric-based 评估框架(核心创新)

这是本文最重要的方法论贡献。传统基准只看最终答案对错,但科研能力远不止于此。

Research 评估流程

2分
方法选择
→
3分
中间推理
→
2分
关键假设
→
3分
最终结论

总分 10 分 · ≥7 分视为成功解决 · 过程导向(50%+ 分数给中间步骤)

这种设计使得即使模型没有得到完美答案,也能定位推理链的哪个环节失败——这对改进模型极其有价值。

3. 裁判模型

使用 GPT-5(高推理力度)作为裁判,与人类专家评分的 Spearman 相关系数 > 0.85,"是否成功"二分类的一致率 > 90%。

排行榜与深度解读

模型Olympiad (%)Research (%)
🥇 GPT-5.2
77.1
25.0
🥈 Gemini 3 Pro
76.0
20.0
🥉 GPT-5
72.0
25.0
GPT-5.1
70.0
22.0
Grok 4
68.0
18.0
OpenAI o3
62.0
15.0
Claude Opus 4.5
55.0
12.0
OpenAI o4-mini
50.0
10.0
GPT-4o
35.0
5.0

三个关键发现

发现一:奥赛 vs 研究的巨大鸿沟

最强模型在 Olympiad 77%,在 Research 仅 25%。这不是简单的"难度更大"——它反映了两种根本不同的能力需求:奥赛是在给定框架内精确推理("用量子力学求解这个体系"),研究是选择框架、设计方法、处理开放约束("分析这个未知体系的性质")。52 个百分点的差距 = "AI 做题" vs "AI 做科研" 的真实距离。

发现二:推理力度(Reasoning Effort)的效果与局限

GPT-5.2 从 medium → xhigh 推理力度,Olympiad 提升 9.6pp(67.5% → 77.1%),Research 提升 7pp(18% → 25%)。更多"思考时间"确实有帮助,但收益递减——Research 的天花板远比 Olympiad 低,暗示当前 scaling 路线在"做科研"维度可能面临瓶颈。

发现三:学科间的有趣差异

Olympiad:化学 > 物理 > 生物(化学推理更多规则应用和模式匹配)。Research:化学 > 生物 > 物理(物理研究需从第一性原理构建数学模型,正是 LLM 最薄弱的环节)。物理在两个轨道都排名靠后,揭示了模型在原创性建模方面的根本短板。

常见失败模式

对我们的启示

1. 科学基准设计的范式转移

从"知识检索型"到"能力诊断型"。Rubric-based 评估框架可推广到代码 Review 能力评估、研究方案设计评估、复杂 debug 过程评估等任何需要评估开放式回答质量的场景。

2. Test-time Compute 的价值与局限

给模型更多思考时间在封闭推理上提升显著,但在开放式研究问题上收益有限。当前 scaling 路线在"做科研"维度可能面临根本性瓶颈。

3. 对训练数据构建的方向指引

Research 轨道的短板揭示了三个数据改进方向:① 过程导向的科研思维数据(完整推理链而非问答对);② 方法论选择训练数据(为什么选这个方法?);③ 跨学科迁移数据。

4. AI 科学能力的准确定位

知识问答 (>90%) → 博士多选 (>80%) → 奥赛推理 (77%) → 开放科研 (25%)。AI 在知识检索和封闭推理方面已非常强大,但在真正的科研能力上还有很长的路要走。

AI 科学能力谱系(2026 年初)

已饱和
高水平
部分能力
早期阶段
MMLU / SciQA>90% · 知识问答
GPQA Diamond>80% · 博士多选
FS-Olympiad77% · 奥赛推理
FS-Research25% · 开放科研

基准的边界

结论:最值得关注的数字

25%

当前最强模型在博士级开放式科研题上的得分

FrontierScience 的核心贡献不在于发现"AI 还不够强",而在于精确标定了差距——77% vs 25% 的双轨对比清晰区分了"推理计算能力"和"研究方法论能力";Rubric-based 评估能诊断模型在推理链的哪个环节失败;25% 的分数意味着这个基准在相当长时间内不会饱和。

当 Research 分数达到 70% 以上时,我们或许可以开始谈论"AI 科学家"了。