返回评测
数据 数据-Text2SQL 未饱和 模态 · 表格 任务 · 结构化输出

KaggleDBQA

基于 Kaggle 真实数据库的 Text-to-SQL 评测

Microsoft Research ·

考察能力

复杂 SQL 领域适应 Schema 理解

构建信息

数据规模
400 questions, 8 real databases
评测方式
执行匹配
核心指标
Execution Accuracy

模型效果排行

🥇 GPT-4o
68.3%
🥈 DIN-SQL
55.2%

为什么重要

KaggleDBQA 使用 Kaggle 上的真实数据库,而非学术界构造的标准 schema。这些数据库有不规范的列名、缺失值、非标准数据类型——反映真实场景中 Text-to-SQL 的挑战。

构建方式

从 Kaggle 精选 8 个真实数据库,包含不同领域(体育、金融、医疗等)。众包标注自然语言问题和 SQL。保留原始数据的不规范性。

任务示例

  • 数据库:NBA 球员统计(列名如 “3P%”, “FG_PCT”)
  • 问题:“Which player had the most assists in the 2020 season?”
  • 挑战:需理解不规范列名和数据库特定的编码方式

关键发现

  • 不规范 schema 导致模型性能比 Spider 低 20%+
  • 领域知识是关键——理解列名含义需要领域背景
  • 错误类型主要是列名映射错误和条件值错误

关联基准

BIRD(大规模真实数据库)、Spider(标准跨表)、WikiSQL(单表)

不足与展望

8 个数据库规模偏小。缺乏对查询效率的评测。

Text-to-SQL 真实数据库 Kaggle