返回评测
综合 综合-通用能力 未饱和 模态 · 文本 任务 · 混合题型

LiveBench 2.0

2024 年 6 月上线的滚动更新抗污染基准,1.x 用六类纯客观题目;2026-10-13 发布 2.0,改为七大套件(Agentic / Reasoning / Coding / Browser Use / Data Analysis / Research / Design)交付真实工作成果,并首次把「每次成功任务的成本」与分数并列发布。当前头名 Claude Fable 5.1 88.0 分、$4.526/成功任务,而 GPT-6.1 Sol 以 85.4 分做到 $0.734

Abacus.AI & CMU & UIUC ·

考察能力

Agentic 长程任务 推理 代码生成 浏览器使用 数据分析 研究 设计

构建信息

数据规模
1.x:约 1,000 题/月动态更新,六类(数学/编码/推理/语言/数据分析/指令跟随)。2.0:七大套件,任务为「真实工作」——演示文稿、研究报告、bug 修复、要连续运行数小时的应用;官方页面未公布逐套件题量
构建方式
1.x 每月自动生成新题,保证存在客观正确答案;旧题数月后退役以防进入训练集。2.0 改为交付物导向:给模型真实工作,对它交回来的东西评分;题目同样滚动更新以维持抗污染
评测方式
1.x 为客观答案匹配(官方明确无 LLM Judge)。2.0 官方只表述为「grade what they hand back」,未逐条公开评分器细节;考虑到包含 Design 套件,客观自动评分的边界相比 1.x 已明显放宽
核心指标
Overall(0–100,七套件加权)+ Cost per successful task(美元)。⚠️ 2.0 与 1.x 的 Overall 不是同一把尺子:套件构成、任务形态与评分方式都变了,跨版本比较分数没有意义

模型效果排行

🥇 Claude Fable 5.1 (Anthropic; Reasoning 91.7 / Coding 97.7 / Browser Use 100.0 / Research 82.0 / Design 83.4 / Agentic 80.8 / Data Analysis 80.3)
88.0 ($4.526/成功任务) 2026-10
🥈 Claude Opus 5.5 (Anthropic; Agentic 85.0 全场最高; Research 85.0 / Design 86.9 / Reasoning 92.2)
86.5 ($4.216/成功任务) 2026-10
🥉 GPT-6 Astra (OpenAI; Reasoning 92.7 / Data Analysis 83.0 / Coding 93.7)
86.1 ($3.442/成功任务) 2026-10
4. GPT-6.1 Sol (OpenAI; 成本效率拐点——比头名低 2.6 分,单价只有其 16.2%)
85.4 ($0.734/成功任务) 2026-10
5. Gemini 4 Argon (Google; Reasoning 95.1 全场最高,Browser Use 92.0,但 Design 73.7 为前八最低)
84.1 ($1.830/成功任务) 2026-10
6. Claude Fable 5 (Anthropic; Coding 98.3 全场最高,Browser Use 92.0,但 Agentic 仅 53.2)
83.6 ($5.505/成功任务) 2026-10
7. Claude Sonnet 5.5 (Anthropic; Reasoning 91.6 / Coding 94.7,Data Analysis 59.5 为前八最低)
82.5 ($3.805/成功任务) 2026-10
8. Claude Opus 5 (Anthropic; Research 88.9 / Design 83.0)
82.1 ($3.907/成功任务) 2026-10

为什么重要

LiveBench 是首个滚动更新的 LLM 评测基准——题目持续换新防止数据污染。在它之前,“这个模型是不是只是把测试集背下来了”几乎无法证伪;LiveBench 用”题目晚于训练截止”这个硬约束把问题绕开了。

1.x 阶段的第二个卖点是全客观评分:题目都被设计成存在客观正确答案,官方明确声明不使用 LLM Judge。在那个 LLM-as-judge 争议最激烈的时期,这条承诺本身就是价值。

2026 年 10 月 13 日发布的 2.0 是一次方向性改造,而且改造的方向很说明问题:官方给它的定义是”给模型真实工作(做演示文稿、写研究报告、修 bug、写要连续跑几小时的应用),然后对它交回来的东西评分”。

从”做题”变成”交活”。七个套件里只有 Reasoning、Coding、Data Analysis 还带有传统做题的影子,Agentic、Browser Use、Research、Design 四套考的都是交付物。这个转向与同期 OSWorld 2.0、Terminal-Bench 4.0 是一致的:当单轮做题的区分度被耗尽,评测只能往”能不能干完一件事”迁移。

构建方式

1.x(2024-06 起)。 每月从六个类别生成新题目:数学、编码、推理、语言、数据分析、指令跟随。题目设计确保存在客观正确答案,不依赖 LLM 评分。旧题在数月后退役,防止被训练数据收录。所有题目与评分代码开源。

2.0(2026-10-13)。 七个套件:

套件考什么
Agentic长程自主任务执行
Reasoning推理
Coding代码生成与修复
Browser Use真实浏览器操作
Data Analysis数据分析
Research研究类交付物
Design设计类交付物(演示文稿等)

任务形态被明确描述为”真实工作”:做演示文稿、写研究报告、修 bug、写要连续运行数小时的应用。题目同样保持滚动更新以维持抗污染属性。

2.0 最重要的新增不是套件,是成本列。 官方给每个模型同时发布 Cost per successful task(每次成功任务的美元成本),并在 Insights 页直接画出 quality vs cost 的”价值前沿”,还提供交互式的 kill zone 视图(点一个模型,把”分数更低且成本更高”的所有模型灰掉)。这是主流综合基准里第一次把成本当作一等公民而不是脚注。

关键发现

一、分数与成本几乎脱钩

这是 2.0 榜单读起来最有信息量的一点。把 Overall 与 Cost per successful task 并排:

模型Overall每次成功任务成本
Claude Fable 5.188.0$4.526
Claude Opus 5.586.5$4.216
GPT-6 Astra86.1$3.442
GPT-6.1 Sol85.4$0.734
Gemini 4 Argon84.1$1.830
Claude Fable 583.6$5.505
Claude Sonnet 5.582.5$3.805
Claude Opus 582.1$3.907
DeepSeek V4.1 Flash(开源权重)77.3$0.134
Claude Haiku 5.574.5$0.211

GPT-6.1 Sol 比头名低 2.6 分,单价只有它的 16.2%——用不到六分之一的钱买到 97% 的分数。更极端的是 DeepSeek V4.1 Flash:77.3 分、$0.134,成本是头名的 3%,分数是它的 88%。

反过来,Claude Fable 5 以 $5.505 成为前八里最贵的一个,Overall 83.6,落在 GPT-6.1 Sol 之后。只看分数排序会得出完全错误的选型结论,这正是官方坚持把成本列进主表的原因。

二、套件剖面揭示「能力形状」,且旗舰之间差异极大

前八名在七个套件上的分布远比 Overall 的一维排序有信息量:

  • Claude Fable 5.1:Browser Use 100.0(满分)、Coding 97.7,但 Agentic 只有 80.8。
  • Claude Fable 5:Coding 98.3(全场最高),但 Agentic 只有 53.2——与同系列 5.1 的 80.8 差 27.6 分。同一产品线两个版本在同一个基准上可以有这么大的形状差异。
  • Gemini 4 Argon:Reasoning 95.1(全场最高)、Browser Use 92.0,但 Design 只有 73.7(前八最低)、Agentic 69.9(前八最低)。
  • Claude Sonnet 5.5:Data Analysis 59.5(前八最低),与它自己的 Coding 94.7 差 35.2 分。
  • Claude Opus 5.5:Agentic 85.0(全场最高)、Design 86.9,是唯一在”最像干活”的两个套件上同时领跑的模型。

一个模型的 Overall 是七个能力的平均,而平均掩盖了 30 分以上的内部落差。选模型应该看剖面而不是总分。

三、Agentic 是区分度最大的套件

看 Overall 前八与后段的 Agentic 分差:Opus 5.5 拿到 85.0,而 GLM-5.3(开源权重)只有 35.9、Gemini 3.1 Pro 23.9、Claude Haiku 4.5 只有 11.1。Agentic 的跨度是 11 到 85,而 Coding 的跨度是 61.7 到 98.3——后者所有人都做得不错,前者把模型彻底分开。

这与同期 Terminal-Bench、OSWorld 2.0 上观察到的现象一致:长程自主执行是当前唯一还能大规模区分前沿模型的维度。

四、开源权重的最好成绩是 77.3,落后头名 10.7 分

DeepSeek V4.1 Flash 的 77.3 是开源权重的最高分,位列表单第 11;GLM-5.3 Flash 70.6、Kimi K3 63.4、GLM-5.3 60.7。在 1.x 时代开源与闭源的差距已经很小,2.0 的长程套件把这个差距重新拉开了。

但在成本维度开源权重是压倒性的:DeepSeek V4.1 Flash $0.134、GLM-5.3 Flash $0.149,是整张榜上最便宜的两档。

五、Haiku 5.5 是本次榜单里性价比的极端样本

Claude Haiku 5.5 拿到 74.5 分(高于 GPT-5.5 的 68.7、Gemini 3.8 Flash 的 67.3、Claude Sonnet 4.6 的 65.1),成本 $0.211。它的分数高于三个价格贵它 5 到 30 倍的模型;而 Haiku 4.5 在同一张榜上只有 46.0 分、$1.595——一代之间涨 28.5 分,成本降到 13%。

这与它在 Terminal-Bench 4.0 上从 0.0% 跳到 39.2%、在 OSWorld 2.1 上从 15.7% 跳到 72.4% 是同一条代际跃迁曲线。

如何读这份榜单

  • topResults 按 Overall 降序,同一格给出 Cost per successful task。引用分数时建议两个数一起引——单独引分数会把选型带偏。
  • 2.0 与 1.x 的 Overall 不可比。套件从 6 类变成 7 类,任务形态从”客观题”变成”交付物”,评分器口径也变了。下面保留的 1.x 历史值只用于说明该基准的历史轨迹,不构成连续曲线。
  • 2.0 的评分器细节官方未逐条公开。1.x 那句”无 LLM Judge”的承诺不应自动沿用到 2.0——Design 类交付物的评判很难完全客观化。引用 2.0 分数时把它当作”官方自有口径的一次横切”。
  • 成本列是每次成功任务的成本,不是每 token 价格。它已经把成功率折进去了:一个便宜但经常失败的模型,这列数字不会好看。这是它比单纯比 API 单价更有用的地方。

历史快照(1.x,2026-03 版本)

以下为 1.x 时代的分数,与上方 2.0 榜单不是同一把尺子,保留仅作时间切片:

模型Global Average
Claude Opus 476.8%
GPT-575.2%
Gemini 2.5 Pro73.1%
DeepSeek R166.9%

1.x 的核心贡献有三条,到 2.0 仍然成立:滚动更新题目使”真实能力变化”可被测量;多个模型在旧题与新题上的差距证实了数据污染的普遍性;题目与评分代码全部开源。

关联基准

不足与展望

  • 滚动更新意味着历史数据不可比(每期题目不同),这也是本卡必须把 1.x 与 2.0 分开列的原因
  • 2.0 的七个套件仍未覆盖多模态输入与安全对齐
  • 依赖人工出题,扩展性有限;2.0 转向”真实工作”后单题成本明显上升,可覆盖的模型数量可能受限
  • 成本数据的可比性依赖各模型的官方定价,折扣、缓存命中率与批量推理会显著改变实际支出
综合评测 抗污染 动态更新 长程任务 成本效率 Agent 交付物评分