返回评测
Agent Agent-工具调用 接近饱和 模态 · 文本 任务 · 执行验证

τ²-Bench 0.2.1

τ-bench 的增强版,新增电信领域和双控交互模式,评测对话 Agent 的工具使用与策略遵循能力

Sierra Research / University of Toronto / Vector Institute ·

考察能力

双控交互 工具使用 策略遵循 多轮对话 错误恢复

构建信息

数据规模
279 tasks (Airline 50 + Retail 115 + Telecom 114)
构建方式
从 τ-bench 扩展,修复用户模拟器错误,新增电信领域
评测方式
5 种自动校验(db_check + tool_call + policy_check + goal_check + dialogue_check)
核心指标
Pass Rate (%)

模型效果排行

🥇 Claude Opus 4.6
91.9% 2026-02
🥈 Step 3.5 Flash
88.2% 2026-02
🥉 Claude Opus 4.5
88.9% 2026-01
4. GLM-5
85.3% 2026-02
5. GPT-5.2 Thinking
82.0% 2026-01
6. Gemma 4 31B
86.4% 2026-04
7. Ling-2.6-flash
85.0% 2026-04
8. LongCat-Next (Retail)
73.7% 2026-03

为什么重要

τ²-Bench 是 τ-bench 的直接继任者,核心创新在于双控交互(Dual-Control)——不仅 Agent 可以调用工具,用户(模拟器)也可以操作共享环境。这更贴近真实客服场景:用户需要切换飞行模式、读出状态栏信息,Agent 需要从不完整信息中引导排障。

τ²-Bench 解决了 τ-bench 的两大痛点:(1) 用户模拟器错误率高达 40-47%(12-13% 为任务关键错误),τ²-Bench 将电信领域模拟器错误率降至 16%(6% 关键);(2) 新增电信故障排查领域,覆盖套餐办理、流量查询、网络排障、国际漫游等真实场景。

构建方式

  1. 三大领域:航空(50 tasks)、零售(115 tasks)、电信(114 tasks,新增)
  2. 双控模式:Agent 和用户均可调用工具、修改状态、验证结果
  3. 形式化为 Dec-POMDP:分散式部分可观测马尔可夫决策过程
  4. 5 种自动校验:
    • db_check:数据库最终状态是否正确
    • tool_call:工具调用顺序、参数、次数是否正确
    • policy_check:是否违反业务规则
    • goal_check:用户核心需求是否达成
    • dialogue_check:回复是否准确、合规、自然
  5. 每领域有独立业务策略、工具集、数据库、任务集

任务示例

航空:“客户要求改签航班,检查改签政策 → 查订单 → 计算差价 → 执行改签” 零售:“客户投诉商品损坏,检查退货政策 → 查订单 → 确认收货状态 → 执行退款” 电信(新增):“用户报告无法上网,引导用户检查飞行模式 → 查询套餐余量 → 远程重置网络 → 确认恢复”

关键发现

  • Claude 系列持续领先:Opus 4.6 以 91.9% 领先,Opus 4.5 以 88.9% 紧随
  • Step 3.5 Flash 惊艳表现:88.2% 超越多个更大模型,小模型在工具使用上效率优势明显
  • Gemma 4 31B 突破:从上一代 6.6% 飙升至 86.4%,Google 开源模型在 Agent 能力上进步巨大
  • 电信领域最具挑战:用户需配合操作的排障流程,当前模型 pass rate 显著低于航空/零售
  • 用户模拟器质量决定评测可信度:τ-bench 航空模拟器错误率 47% → τ²-Bench 电信仅 16%
  • 策略遵循是核心区分度:模型容易违反业务规则(如超额退票、禁售品销售)

最新进展

  • 2026-04:蚂蚁集团 Ling-2.6-flash 在 τ²-Bench 达同尺寸最佳,Gemma 4 31B 从 6.6% 提升至 86.4%
  • 2026-03:美团 LongCat-Next 在零售场景达 73.68%
  • 2026-02:Step 3.5 Flash 以 88.2% 进入 Top 3,开源模型在工具使用基准上追赶闭源
  • 2026-02:GLM-5 发布,τ²-Bench 达 85.3%,智谱 AI 旗舰模型在 Agent 评测中表现突出
  • 2026-01:Claude Opus 4.6 以 91.9% 领先,在零售/电信领域均超 90%
  • 关键趋势:τ²-Bench 已成为衡量对话 Agent 策略遵循能力的标准基准;开源模型(Step、Gemma、GLM)快速追赶;电信领域仍是最难的评测维度

与 τ-bench 和 τ³-Bench 的关系

  • τ-bench(初代):仅航空/零售,单控模式(仅 Agent 有工具),用户模拟器错误率高
  • τ²-Bench(二代):新增电信领域 + 双控模式 + 修复模拟器,当前最广泛采用的版本
  • τ³-Bench(三代):扩展到长时域多步工具调用,评测更复杂的工作流能力

三者互补,共同构成企业级对话 Agent 能力评测体系。

关联基准

不足与展望

  • 279 个任务偏少,细分到每个领域/难度更少
  • 用户模拟器在电信领域仍有 16% 错误率
  • 目前主要评测英文客服场景,中文/多语言覆盖不足
  • Telecom 领域仅 114 tasks 采样自 2,285 候选,可能存在采样偏差
  • τ³-Bench 的发布可能逐步替代 τ²-Bench 作为主要评测标准
Agent 双控交互 工具使用 策略遵循 对话Agent