为什么重要
LiveBench 是首个滚动更新的 LLM 评测基准——题目持续换新防止数据污染。在它之前,“这个模型是不是只是把测试集背下来了”几乎无法证伪;LiveBench 用”题目晚于训练截止”这个硬约束把问题绕开了。
1.x 阶段的第二个卖点是全客观评分:题目都被设计成存在客观正确答案,官方明确声明不使用 LLM Judge。在那个 LLM-as-judge 争议最激烈的时期,这条承诺本身就是价值。
2026 年 10 月 13 日发布的 2.0 是一次方向性改造,而且改造的方向很说明问题:官方给它的定义是”给模型真实工作(做演示文稿、写研究报告、修 bug、写要连续跑几小时的应用),然后对它交回来的东西评分”。
从”做题”变成”交活”。七个套件里只有 Reasoning、Coding、Data Analysis 还带有传统做题的影子,Agentic、Browser Use、Research、Design 四套考的都是交付物。这个转向与同期 OSWorld 2.0、Terminal-Bench 4.0 是一致的:当单轮做题的区分度被耗尽,评测只能往”能不能干完一件事”迁移。
构建方式
1.x(2024-06 起)。 每月从六个类别生成新题目:数学、编码、推理、语言、数据分析、指令跟随。题目设计确保存在客观正确答案,不依赖 LLM 评分。旧题在数月后退役,防止被训练数据收录。所有题目与评分代码开源。
2.0(2026-10-13)。 七个套件:
| 套件 | 考什么 |
|---|---|
| Agentic | 长程自主任务执行 |
| Reasoning | 推理 |
| Coding | 代码生成与修复 |
| Browser Use | 真实浏览器操作 |
| Data Analysis | 数据分析 |
| Research | 研究类交付物 |
| Design | 设计类交付物(演示文稿等) |
任务形态被明确描述为”真实工作”:做演示文稿、写研究报告、修 bug、写要连续运行数小时的应用。题目同样保持滚动更新以维持抗污染属性。
2.0 最重要的新增不是套件,是成本列。 官方给每个模型同时发布 Cost per successful task(每次成功任务的美元成本),并在 Insights 页直接画出 quality vs cost 的”价值前沿”,还提供交互式的 kill zone 视图(点一个模型,把”分数更低且成本更高”的所有模型灰掉)。这是主流综合基准里第一次把成本当作一等公民而不是脚注。
关键发现
一、分数与成本几乎脱钩
这是 2.0 榜单读起来最有信息量的一点。把 Overall 与 Cost per successful task 并排:
| 模型 | Overall | 每次成功任务成本 |
|---|---|---|
| Claude Fable 5.1 | 88.0 | $4.526 |
| Claude Opus 5.5 | 86.5 | $4.216 |
| GPT-6 Astra | 86.1 | $3.442 |
| GPT-6.1 Sol | 85.4 | $0.734 |
| Gemini 4 Argon | 84.1 | $1.830 |
| Claude Fable 5 | 83.6 | $5.505 |
| Claude Sonnet 5.5 | 82.5 | $3.805 |
| Claude Opus 5 | 82.1 | $3.907 |
| DeepSeek V4.1 Flash(开源权重) | 77.3 | $0.134 |
| Claude Haiku 5.5 | 74.5 | $0.211 |
GPT-6.1 Sol 比头名低 2.6 分,单价只有它的 16.2%——用不到六分之一的钱买到 97% 的分数。更极端的是 DeepSeek V4.1 Flash:77.3 分、$0.134,成本是头名的 3%,分数是它的 88%。
反过来,Claude Fable 5 以 $5.505 成为前八里最贵的一个,Overall 83.6,落在 GPT-6.1 Sol 之后。只看分数排序会得出完全错误的选型结论,这正是官方坚持把成本列进主表的原因。
二、套件剖面揭示「能力形状」,且旗舰之间差异极大
前八名在七个套件上的分布远比 Overall 的一维排序有信息量:
- Claude Fable 5.1:Browser Use 100.0(满分)、Coding 97.7,但 Agentic 只有 80.8。
- Claude Fable 5:Coding 98.3(全场最高),但 Agentic 只有 53.2——与同系列 5.1 的 80.8 差 27.6 分。同一产品线两个版本在同一个基准上可以有这么大的形状差异。
- Gemini 4 Argon:Reasoning 95.1(全场最高)、Browser Use 92.0,但 Design 只有 73.7(前八最低)、Agentic 69.9(前八最低)。
- Claude Sonnet 5.5:Data Analysis 59.5(前八最低),与它自己的 Coding 94.7 差 35.2 分。
- Claude Opus 5.5:Agentic 85.0(全场最高)、Design 86.9,是唯一在”最像干活”的两个套件上同时领跑的模型。
一个模型的 Overall 是七个能力的平均,而平均掩盖了 30 分以上的内部落差。选模型应该看剖面而不是总分。
三、Agentic 是区分度最大的套件
看 Overall 前八与后段的 Agentic 分差:Opus 5.5 拿到 85.0,而 GLM-5.3(开源权重)只有 35.9、Gemini 3.1 Pro 23.9、Claude Haiku 4.5 只有 11.1。Agentic 的跨度是 11 到 85,而 Coding 的跨度是 61.7 到 98.3——后者所有人都做得不错,前者把模型彻底分开。
这与同期 Terminal-Bench、OSWorld 2.0 上观察到的现象一致:长程自主执行是当前唯一还能大规模区分前沿模型的维度。
四、开源权重的最好成绩是 77.3,落后头名 10.7 分
DeepSeek V4.1 Flash 的 77.3 是开源权重的最高分,位列表单第 11;GLM-5.3 Flash 70.6、Kimi K3 63.4、GLM-5.3 60.7。在 1.x 时代开源与闭源的差距已经很小,2.0 的长程套件把这个差距重新拉开了。
但在成本维度开源权重是压倒性的:DeepSeek V4.1 Flash $0.134、GLM-5.3 Flash $0.149,是整张榜上最便宜的两档。
五、Haiku 5.5 是本次榜单里性价比的极端样本
Claude Haiku 5.5 拿到 74.5 分(高于 GPT-5.5 的 68.7、Gemini 3.8 Flash 的 67.3、Claude Sonnet 4.6 的 65.1),成本 $0.211。它的分数高于三个价格贵它 5 到 30 倍的模型;而 Haiku 4.5 在同一张榜上只有 46.0 分、$1.595——一代之间涨 28.5 分,成本降到 13%。
这与它在 Terminal-Bench 4.0 上从 0.0% 跳到 39.2%、在 OSWorld 2.1 上从 15.7% 跳到 72.4% 是同一条代际跃迁曲线。
如何读这份榜单
- topResults 按 Overall 降序,同一格给出 Cost per successful task。引用分数时建议两个数一起引——单独引分数会把选型带偏。
- 2.0 与 1.x 的 Overall 不可比。套件从 6 类变成 7 类,任务形态从”客观题”变成”交付物”,评分器口径也变了。下面保留的 1.x 历史值只用于说明该基准的历史轨迹,不构成连续曲线。
- 2.0 的评分器细节官方未逐条公开。1.x 那句”无 LLM Judge”的承诺不应自动沿用到 2.0——Design 类交付物的评判很难完全客观化。引用 2.0 分数时把它当作”官方自有口径的一次横切”。
- 成本列是每次成功任务的成本,不是每 token 价格。它已经把成功率折进去了:一个便宜但经常失败的模型,这列数字不会好看。这是它比单纯比 API 单价更有用的地方。
历史快照(1.x,2026-03 版本)
以下为 1.x 时代的分数,与上方 2.0 榜单不是同一把尺子,保留仅作时间切片:
| 模型 | Global Average |
|---|---|
| Claude Opus 4 | 76.8% |
| GPT-5 | 75.2% |
| Gemini 2.5 Pro | 73.1% |
| DeepSeek R1 | 66.9% |
1.x 的核心贡献有三条,到 2.0 仍然成立:滚动更新题目使”真实能力变化”可被测量;多个模型在旧题与新题上的差距证实了数据污染的普遍性;题目与评分代码全部开源。
关联基准
- LiveCodeBench:代码领域的类似”滚动更新”设计
- Arena-Hard:另一个高区分度评测
- Open LLM Leaderboard:综合排行
不足与展望
- 滚动更新意味着历史数据不可比(每期题目不同),这也是本卡必须把 1.x 与 2.0 分开列的原因
- 2.0 的七个套件仍未覆盖多模态输入与安全对齐
- 依赖人工出题,扩展性有限;2.0 转向”真实工作”后单题成本明显上升,可覆盖的模型数量可能受限
- 成本数据的可比性依赖各模型的官方定价,折扣、缓存命中率与批量推理会显著改变实际支出