返回评测
数据 数据-Text2SQL 未饱和 模态 · 表格 任务 · 结构化输出

CoSQL

模拟数据库管理员与用户的真实对话,测试多轮交互式 SQL 查询生成

Yale University ·

考察能力

对话式 SQL 意图分类 查询生成 多轮交互

构建信息

数据规模
3,007 dialogues / 30,000+ turns
评测方式
标准评测
核心指标
Question Match / Dialogue Match (%)

模型效果排行

🥇 GPT-5
74.2% (QM)
🥈 Claude 4 Opus
71.8% (QM)
🥉 Gemini 2.5 Pro
70.1% (QM)

为什么重要

CoSQL 比 SParC 更贴近真实场景:它模拟了数据库管理员(DBA)与用户之间的自然对话,包含澄清问题、拒绝不合理请求、建议替代查询等真实交互模式。

构建方式

  1. 基于 Spider 的 200 个数据库
  2. 通过 Wizard-of-Oz 方法收集人人对话
  3. 用户可以提问、澄清、修改;DBA 可以询问、建议、拒绝
  4. 三个子任务:SQL 生成、用户意图分类、DBA 回复生成

任务示例

用户:“What’s the most popular major?” DBA 回复:“Do you mean by number of enrolled students or by number of applications?” 用户:“By enrollment” SQL:SELECT major, COUNT(*) FROM students GROUP BY major ORDER BY COUNT(*) DESC LIMIT 1

关键发现

  • 意图分类(SQL生成 vs 澄清 vs 拒绝)本身就是挑战
  • 模糊查询的处理能力差异大
  • 对话长度越长准确率越低

关联基准

不足与展望

  • Wizard-of-Oz 数据可能不完全反映真实用户
  • 不涉及数据库 schema 发现
  • 需要加入数据可视化等扩展任务
SQL 对话 数据库 交互式