返回评测
Agent Agent-工具调用 未饱和 模态 · 文本 任务 · 执行验证

API-Bank

314 个 API 调用场景,测试 LLM 的工具规划和多步 API 编排

Tsinghua University ·

考察能力

API规划 多步编排 参数推理

构建信息

数据规模
314 dialogues, 753 API calls
评测方式
精确匹配 + 执行验证
核心指标
Correctness Rate

模型效果排行

🥇 GPT-4o
~76%
🥈 Claude 3.5 Sonnet
~73%

为什么重要

API-Bank 在 Gorilla 之外提供了更强调多步 API 编排的评测。很多实际任务需要先调用 API-A 获取结果,再作为 API-B 的输入——这种链式调用能力是 Agent 的核心需求。

构建方式

  1. 定义 53 个常用 API(搜索、翻译、天气、日历等)
  2. 构造需要 1-5 步 API 调用的对话场景
  3. 在三个层次评测:API 调用、检索+调用、规划+检索+调用

任务示例

用户:“帮我查一下明天北京的天气,如果下雨就帮我取消明天的户外会议。” Agent 需:调用天气 API → 判断是否下雨 → 条件调用日历 API 取消会议

关键发现

  • 单步调用准确率高,多步链式调用快速退化
  • API 选择错误比参数错误更常见
  • 需要的规划越复杂,成功率越低

关联基准

不足与展望

  • API 集合偏小且固定
  • 模拟 API 与真实 API 有差距
  • 但多步编排评测理念有价值
API 工具 多步编排