为什么重要
TAU3-Bench 是 TAU-bench 的下一代升级版。TAU-bench 仅覆盖航空和零售两个领域,而 TAU3-Bench 扩展到更复杂的长时域工具调用场景,要求 Agent 在更长时间跨度内完成多步操作。这是衡量 Agent 在企业级工作流中实际表现的重要基准。
构建方式
- 从 TAU-bench 的设计理念出发,超越原有的航空/零售场景
- 新增长时域(long-horizon)工具调用任务,要求 Agent 完成更复杂的多步工作流
- 评测更接近真实企业场景:多系统交互、长时间跨度、复杂策略遵循
关键发现
- Qwen3.6 Plus 以微弱优势领先:70.7% vs GLM-5.1 的 70.6%,差距仅 0.1 个百分点
- Top 3 高度拥挤:Qwen3.6 Plus / GLM-5.1 / Claude Opus 4.5 三者差距仅 0.5 个百分点
- 中国模型表现强劲:前 2 名均为中国模型(通义千问、智谱 AI)
- 小模型效率:Qwen3.6-35B-A3B(仅 35B 参数)达到 67.2%,逼近更大模型
- 整体分数偏低:最高仅 70.7%,说明长时域工具使用仍是 Agent 的核心挑战
与 TAU-bench 的关系
TAU3-Bench 不是 TAU-bench 的替代品,而是扩展:
- TAU-bench:聚焦航空/零售客服场景,评估策略遵循
- TAU3-Bench:扩展到更广泛的长时域工具调用场景,评估复杂工作流能力
- 两者互补,共同构成企业级 Agent 能力评测体系
最新进展
- 2026-09-04:Sierra 发布 τ^τ-Bench(hyper-τ-bench)(arXiv:2609.04611),把 τ³-bench 当成内循环用:外循环的编码 Agent 要在一个沙盒里从业务记录、模拟客户、有缺陷的客户端 REST API 出发,交付一个可运行的客服 Agent,其得分就是它造出来的 Agent 在 τ³-bench 留出任务上的通过率。对本卡最直接的含义是——τ³ 系列的定位从”评测 Agent 会不会干活”上移为”评测造 Agent 这件事的验收标准”。最强自动配置(Claude Opus 5 + Claude Code)只有 23.9%,专家参考线 82.2%。
关联基准
- τ^τ-Bench (hyper-τ-bench):以 τ³-bench 为内循环的”Agent 构建”评测
- TAU-bench:前身,聚焦客服场景
- BFCL:函数调用评测
- Toolathlon:工具调用十项全能评测
- AgentBench:多环境 Agent 评测
不足与展望
- 目前评测模型数量较少(仅 7 个),排名可能随更多模型加入而变化
- 具体任务数量和场景范围未完全公开
- 作为较新基准,尚未被广泛采用