返回评测
Agent Agent-终端 未饱和 模态 · 文本 任务 · 执行验证 已替代

Frontier-Bench v0.1

Terminal-Bench 2.1 的官方继承者,开源社区共建的 7 域 31 子域终端 Agent 评测,最佳模型仅 44.4%

Snorkel AI / Harbor Team ·

考察能力

终端操作 软件开发 机器学习 安全攻防 业务推理 硬件设计 创意媒体

构建信息

数据规模
74 tasks (v0.1)
构建方式
开源社区贡献 + 35 项审核 Rubric + 对抗性红队校验
评测方式
Docker 容器确定性验证 + 参考方案 + 无操作基线
核心指标
Resolution Rate (%)

模型效果排行

🥇 Claude Opus 5 (Anthropic, max effort, 2026-07-24 发布)
44.4% 2026-07
🥈 GPT-5.6 Sol (OpenAI, max, Codex CLI)
34.4% 2026-07
🥉 Claude Fable 5 (Anthropic, max, Claude Code)
33.8% 2026-06
4. Claude Opus 4.8 (Anthropic, max, Claude Code)
21.1% 2026-05
5. GPT-5.6 Terra (OpenAI, max, Codex CLI)
20.8% 2026-07
6. Grok 4.5 (xAI, xhigh, Cursor CLI)
17.8% 2026-07
7. Claude Sonnet 5 (Anthropic, max, Claude Code)
14.6% 2026-06
8. GPT-5.6 Luna (OpenAI, max, Codex CLI)
14.3% 2026-07

为什么重要

Terminal-Bench 2.1 已经被几乎所有前沿实验室用于衡量 Agent 在终端环境中的价值工作能力——但 Top Agent 已清除 75-84% 的任务。Frontier-Bench 是 Terminal-Bench 的官方继承者,旨在追踪前沿,任务难度跨越 7 个专业领域,最佳模型仅能解决约 34-44%。

Frontier-Bench 的三大核心创新:

  1. 开源社区共建:任何人都可以提交任务,通过自动化审查管道(35 项 Rubric 审查 → Docker/Oracle/No-Op 验证 → 实机 Agent 试验 → 对抗性”作弊”试验)才能进入正式榜单
  2. 7 域 31 子域:覆盖软件工程、ML 训练/推理、业务推理、安全攻防、硬件设计、自然科学、创意媒体,远超 Terminal-Bench 的单域聚焦
  3. 持续演进:非固定发布,而是通过社区贡献持续增长——发布时 74 任务只是起点

构建方式

  1. 任务由开源社区提交,Snorkel AI 作为任务作者和数据合作伙伴
  2. 每个任务必须通过 5 阶段审查管道:
    • 静态检查:Canary 标记、Dockerfile 完整性、路径与元数据验证
    • Rubric 审查:Agent 对任务按 35 项标准评分(可验证、可解、高难度、反作弊等)
    • Docker/Oracle/No-Op:环境构建成功、参考方案通过、无操作失败
    • 维护者审查:人工审核通过所有自动化门禁
    • Agent 与作弊试验:多个 Agent 尝试任务,含对抗性攻击
  3. 7 个顶层域(Software/Science/ML/Operations/Security/Hardware/Media),31 个子域
  4. 通过 Open Benchmarks Grants 项目获得资金支持(Snorkel AI $3M 承诺)

任务示例

  • session-window-debug (Software):调试流式会话窗口处理器,缺陷仅跨时间状态追踪时暴露
  • embedding-drift-monitor (ML):修复 ML 漂移监控管道,6 个跨栈缺陷被各自的 docstring “辩护”
  • shadow-relay (Security):从原始网络流量包逆向工程数据窃取,破解 DGA 和自定义二进制会话
  • react-lead-form (Software):修复 React/TypeScript 线索录入应用,单一提交管道跨验证/台账/CRM 导出保持一致

关键发现

  • 44.4% 天花板仍然极低:Claude Opus 5 在 max effort 下仅 44.4%,距饱和还有 50pp+ 空间
  • Terminal-Bench 2.1 vs Frontier-Bench 差距巨大:Fable 5 在 TB 2.1 上 88.0%,在 Frontier-Bench 上仅 33.8%——真实的长程终端工作远比现有基准困难
  • Opus 5 在 v0.1 上超越 Fable 5 和 GPT-5.6 Sol 近 10pp:Opus 5 的 Agent 能力在跨域任务上优势显著
  • 开源模型掉队严重:GLM-5.2 仅 5.1%,开源与闭源差距 6-8 倍
  • 成本差异巨大:GPT-5.6 Sol $4.0k vs Fable 5 $7.0k vs Grok 4.5 $1.1k,性价比各异
  • 7 域中 Software/ML/Security 三域是硬骨头:展示任务多集中于此,也是 Agent 能力差距最显著领域

最新进展

  • 2026-08:Frontier-Bench 品牌已终止——据 Terminal-Bench 官方版本沿革表,Terminal-Bench 3.0(2026-07,74 任务)的说明为 “New rolling task set (formerly branded Frontier-Bench); initial 74 tasks added”,即本基准的 74 个任务被整体吸收为 Terminal-Bench 3.0 的初始滚动任务集。此后 4.0(2026-08,66 任务)在此 3.0 集上移除 8 个、修订 20 个、新增 0 个。本页标记为 superseded,后续数据请以 Terminal-Bench 4.0 为准
  • 口径警告:v0.1 的 Opus 5 分数存在 43.3%(Anthropic 官方发布)与 44.4%(BenchmarkList)两个版本;由于任务集在 3.0/4.0 已更换一轮,这些数字与 4.0 上的 51.8% 不可比较——分数上升不代表能力提升,很大程度来自任务集重写
  • 2026-07-23:Frontier-Bench v0.1 正式发布,74 任务 / 7 域 / 31 子域,GPT-5.6 Sol 以 34.4% 首日登顶
  • 2026-07-24:Claude Opus 5 发布,在 max effort 下以 43.3%(官方)~ 44.4%(BenchmarkList)刷新 SOTA,比 GPT-5.6 Sol 高约 10pp
  • 2026-07-23:Snorkel AI 内部博客公开 5 个自建任务深度剖析,展示任务设计哲学
  • 关键趋势:Frontier-Bench 是 Terminal-Bench 2.1 的官方接棒者——随着 2.1 接近饱和(Top 91.9%),Frontier-Bench 重新建立了 50pp+ 的区分空间;Opus 5 的 44.4% 显示 Agent 能力仍有巨大提升空间
Terminal-Bench Agent 终端 开源社区 对抗审核 前沿 已更名