返回评测
Agent Agent-ComputerUse 未饱和 模态 · 截图 任务 · 执行验证

EdgeBench 1.0

字节 Seed 出品,134 个真实任务超 12 小时长程评测,首个衡量 Agent 从环境中学习能力的基准,揭示 log-sigmoid 环境学习 Scaling Law

字节跳动 Seed ·

考察能力

环境学习 长程任务 反馈改进 科学发现 软件工程 组合优化 形式数学 交互游戏

构建信息

数据规模
134 个真实任务 / ~38,000 小时环境交互 / 402 条学习曲线/模型 / 51 个任务+框架已开源
构建方式
六大领域(科学发现/软件工程/组合优化/专业知识工作/形式数学/交互游戏),专家手工构建,多层反馈机制
评测方式
12 小时+ 持续 Agent 运行,学习曲线拟合,log-sigmoid 模型分析
核心指标
Best-so-far Performance (12h)

模型效果排行

🥇 Claude Opus 4.8 (Anthropic)
51.3 2026-07
🥈 GPT-5.5 (OpenAI)
48.4 2026-07
🥉 GPT-5.4 (OpenAI)
39.3 2026-07
4. GLM-5.1 (智谱)
37.4 2026-07
5. DeepSeek V4 Pro
31.0 2026-07

为什么重要

EdgeBench 是 2026 年 7 月第一个系统性衡量 Agent 从真实世界环境中持续学习 能力的基准。它与传统评测的根本区别在于:不是问”模型已经知道什么”,而是问”模型在与环境持续交互时,会怎样学习并改进”。

传统基准(SWE-bench、HumanEval、AIME 等)本质上是”开盒即用”的瞬间判断——给一道题,看一次输出的正确性。EdgeBench 将时间轴从”秒级”拉伸到”小时级”,每个任务允许 Agent 持续运作 12 小时以上,期间 Agent 可以:

  1. 尝试方案 → 收到多层反馈(成功/失败信号 + 中间结果 + 错误日志)
  2. 基于反馈调整策略 → 再次尝试
  3. 多次迭代 → 逐步逼近最优解

这种设计捕捉了 AI 在实际部署中最重要的能力之一:在接触新环境、新任务时,能否通过经验积累而变得更强。

核心科学发现:环境学习的 Log-Sigmoid Scaling Law

EdgeBench 最重要的贡献是首次发现环境学习遵循高精度 log-sigmoid 曲线(拟合精度 R² = 0.998),这意味着:

  • Agent 在环境交互初期的学习速度最快(类似”快速上手”阶段)
  • 随后进入减速阶段,最终趋近一个”天花板”(asymptote)
  • 这个天花板的绝对高度取决于模型本身的预训练能力

更惊人的是跨代际发现:从 2025 年 9 月到 2026 年 5 月,前沿模型的环境学习速度大约每三个月翻一倍——这是一条全新的、独立于预训练 Scaling Law 的”环境学习 Scaling Law”。

构建方式

任务设计

134 个真实任务横跨六大领域,每个任务由领域专家手工构建:

领域描述任务示例
科学发现文献分析、假设验证、实验设计从 PubMed 文献中提取药物相互作用网络
软件工程代码重构、架构优化、调试在大型代码库中定位并修复性能瓶颈
组合优化NP-hard 问题、资源调度物流网络优化、排班问题
专业知识工作金融建模、法律分析公司财报深度分析与估值建模
形式数学定理证明、数学发现自动证明或证伪组合数学猜想
交互游戏策略博弈、模拟复杂模拟环境中的策略优化

反馈机制

每个任务配备多层反馈,Agent 可以看到:

  • 即时反馈:代码是否通过编译/测试
  • 中间反馈:部分结果的质量评估
  • 最终反馈:任务完成的整体评分
  • 人类校准:部分任务包含专家质量的基准线

开源范围

已公开 51 个任务及完整评测框架(含学习曲线可视化工具),其余 83 个任务作为 holdout 防止污染。

关键发现

发现 1:log-sigmoid 学习曲线精度惊人

402 条模型-学习曲线拟合精度 R² = 0.998,表明环境学习过程高度可预测——给定模型基础能力和任务特征,可以精确预测 Agent 在任意时间点的表现。

发现 2:学习速度每三月翻倍

前沿模型的环境学习速度(log-sigmoid 曲线的斜率参数)以每三个月翻一倍的速度提升。从 GPT-4o(2025-09)到 Claude Opus 4.8(2026-05),学习速率约增长 8 倍。

发现 3:基础能力决定学习天花板

学习曲线的渐近线(asymptote)主要由模型的预训练能力决定——Opus 4.8 虽然在很多任务上学习速度并非最快,但最终的 asymptotic performance 最高(51.3),体现”基础能力上限→最终表现上限”的因果关系。

发现 4:不同领域的学习模式差异巨大

  • 软件工程:学习曲线陡峭(快速上手),渐近线较高
  • 科学发现:学习曲线平缓(需要大量积累),渐近线适中
  • 交互游戏:学习曲线呈现”阶梯状”(需要发现关键策略后才能跳跃式提升)

发现 5:GPT-5.5 与 Opus 4.8 的”学习风格”不同

  • Opus 4.8:初期探索更广泛(尝试更多不同策略),后期收敛更精准。整体 asymptotic 更高(51.3 vs 48.4)
  • GPT-5.5:初期收敛更快(更早达到”局部最优”),但后期突破较少。在某些需要”跳出思维定式”的任务上表现不如 Opus 4.8

与现有基准的关系

维度SWE-bench ProTerminal-Bench 2.1OSWorld 2.0EdgeBench
评测目标单次代码修复单次终端任务单次桌面操作持续环境学习
时间跨度分钟级分钟级小时级12 小时+
核心问题能不能能不能能不能能不能越来越好
反馈机制二元(通过/失败)二元二元多层连续反馈
SOTA80.3% (Fable 5)91.9% (GPT-5.6 Sol Ultra)54.8% (Opus 4.8)51.3 (Opus 4.8)

EdgeBench 不与传统基准竞争,而是开辟了全新的评测维度:在”静态能力测试”和”考场式评测”之外,首次度量了 Agent 的”学习增量”(learning delta)——即在部署后通过环境交互能获得多少额外能力。

最新进展

  • 2026-07-06:字节跳动 Seed 团队正式发布 EdgeBench,arXiv:2607.05155,47 位作者,论文首次提出环境学习 Log-Sigmoid Scaling Law
  • 2026-07-06:公开排行榜上线,5 个前沿模型完整评测,Opus 4.8 以 51.3 领先、GPT-5.5 48.4 紧随
  • 2026-07:已开源 51 个任务 + 完整评测框架 + 学习曲线可视化工具,社区可复现

不足与展望

  • 134 个任务在绝对数量上不算大(每个任务 12 小时+,总交互时间 38,000 小时),统计置信度有限
  • 评测仅 5 个模型,缺乏更广泛的前沿模型覆盖(Fable 5/Mythos 5/Gemini 3.1 Pro 等尚未评测)
  • 学习曲线的”最优策略”选择可能存在实验者偏差——12 小时的时间窗口对某些超难任务可能不够
  • 公开子集 51 个任务与 holdout 之间的代表性有待验证
  • 未覆盖视觉交互、多模态环境学习等场景
  • 作为首个”环境学习”基准,EdgeBench 的发现需要更多独立团队复现和验证
环境学习 长程 超长程 Scaling Law 字节跳动 Seed Agent