返回评测
数据 数据-Text2SQL 未饱和 模态 · 表格 任务 · 结构化输出

SParC

多轮对话场景下的 Text-to-SQL 基准,需要理解上下文依赖的 SQL 查询

Yale University ·

考察能力

多轮 SQL 生成 上下文理解 数据库查询

构建信息

数据规模
4,298 interactions / 12,726 SQL queries / 200 databases
评测方式
标准评测
核心指标
Question Match / Interaction Match (%)

资源链接

模型效果排行

🥇 GPT-5
78.4% (QM)
🥈 Claude 4 Opus
75.2% (QM)
🥉 DeepSeek-V3
72.1% (QM)

为什么重要

真实的数据分析场景中,用户往往通过多轮对话逐步细化查询。SParC 将 Spider 的单轮 Text-to-SQL 扩展为多轮,测试模型理解对话上下文并生成正确 SQL 的能力。

构建方式

  1. 基于 Spider 的 200 个数据库
  2. 为每个数据库设计多轮交互场景
  3. 后续查询依赖前序查询的上下文(指代消解、省略补全)

任务示例

第 1 轮:“Show me all students in CS department” → SELECT * FROM students WHERE dept = 'CS' 第 2 轮:“How many of them got an A?” → SELECT COUNT(*) FROM students WHERE dept = 'CS' AND grade = 'A'

关键发现

  • 多轮比单轮显著更难(上下文依赖是主要挑战)
  • Interaction Match(整个对话全对)比 Question Match 低很多
  • 指代消解错误是最常见的失败原因

关联基准

不足与展望

  • 对话设计较为理想化,不完全反映真实用户行为
  • 数据库规模偏小
  • 需要支持更复杂的 SQL 特性(窗口函数、CTE 等)
SQL 多轮对话 数据库 Text-to-SQL