返回评测
Agent Agent-评测基建 未饱和 模态 · 文本 任务 · 混合题型

AgentBoard

多维度分析 Agent 行为的评测框架,9 个任务类型 + 细粒度能力诊断

Tsinghua University ·

考察能力

多步决策 工具使用 环境交互 长程规划

构建信息

数据规模
9 task types / 1,013 tasks
评测方式
进度率 + 成功率
核心指标
Progress Rate / Success Rate (%)

模型效果排行

🥇 GPT-5
68.4% (progress)
🥈 Claude 4 Opus
65.1% (progress)
🥉 Gemini 2.5 Pro
62.8% (progress)

为什么重要

AgentBoard 不只报告一个通过率数字,它提供了细粒度的 Agent 能力诊断:子目标完成进度、错误类型分析、能力雷达图。这让研究者能精确定位模型作为 Agent 的弱项。

构建方式

  1. 整合 9 类 Agent 任务:Web 浏览、操作系统、数据库、知识图谱、家庭模拟等
  2. 每个任务分解为子目标序列
  3. 记录和分析 Agent 在每个子目标上的表现
  4. 提供交互式诊断面板

任务示例

Web 任务:“在 Reddit 上找到关于机器学习的最热帖子,总结前 5 条评论” 子目标:导航到 Reddit → 搜索 ML → 排序 → 打开帖子 → 阅读评论 → 生成摘要

关键发现

  • 成功率远低于进度率——模型经常在最后几步失败
  • 长程任务(>10 步)成功率急剧下降
  • 开源模型在简单任务上已接近闭源,但复杂任务差距大

关联基准

不足与展望

  • 环境模拟器可能不完全反映真实环境复杂度
  • 子目标分解的粒度选择影响评分
  • 需要更多真实世界任务
Agent 诊断 多步 综合评测