返回评测
长文本 长上下文-理解 未饱和 模态 · 文本 任务 · 选择 / 判断

SCROLLS

7 个长文本理解任务的标准化评测套件,涵盖摘要、QA 和信息抽取

Tel Aviv University / Allen AI ·

考察能力

长文本理解 摘要生成 信息抽取

构建信息

数据规模
7 tasks, ~50K examples
评测方式
标准评测
核心指标
Task-specific (ROUGE/F1/Accuracy)

模型效果排行

🥇 GPT-4o
~78% avg
🥈 Claude 3.5 Sonnet
~76% avg

为什么重要

SCROLLS 是长文本评测的先驱套件,将散落的长文本任务(GovReport、QMSum、SummScreenFD、QA-SCI 等)整合为统一基准。ZeroSCROLLS 是其零样本升级版。

构建方式

  1. 整合 7 个已有长文本任务
  2. 统一格式和评测接口
  3. 确保输入长度在 4K-100K token 范围

任务示例

GovReport:给定一篇政府报告(~10K tokens),生成执行摘要。 QMSum:给定会议记录,回答特定问题。

关键发现

  • 长文本摘要仍是挑战
  • 输入长度与性能负相关
  • 是 ZeroSCROLLS 的前身

关联基准

不足与展望

  • 部分任务因 few-shot 过拟合而区分度下降
  • ZeroSCROLLS 已部分取代
  • 但作为长文本评测套件化的先驱值得记录
长文本 套件 摘要 QA