返回评测
推理 常识推理 已饱和 模态 · 文本 任务 · 选择 / 判断

StoryCloze

四句故事前提选择正确结尾,测试叙事常识推理

University of Rochester ·

考察能力

叙事理解 常识推理 因果推理

构建信息

数据规模
3,742 test stories
评测方式
标准评测
核心指标
Accuracy

模型效果排行

🥇 GPT-4
97.8%
🥈 Claude 3 Opus
96.5%

为什么重要

StoryCloze 测试模型对日常叙事的理解——给出四句故事前提,从两个候选结尾中选择合理的那个。看似简单,但需要丰富的常识知识和因果推理能力。它是衡量语言模型”故事理解”能力的经典基准。

构建方式

众包收集五句短故事,然后替换最后一句为两个选项:一个合理结尾 + 一个不合理结尾。通过多轮验证确保不合理选项不能通过表面线索排除。

任务示例

  • 前四句:“Karen was assigned a roommate her first year of college. Her roommate was very messy. Karen tried to be patient. Finally she confronted her roommate.”
  • 选项 A: “Her roommate agreed to be tidier.” ✓
  • 选项 B: “Karen decided to move to the moon.”

关键发现

  • GPT-2 时代通过无监督预训练 + 微调首次接近人类水平
  • 是 Zero-shot 语言模型能力的早期试金石
  • 揭示了语言模型隐式学习叙事因果关系的能力

关联基准

COPA(因果推理)、HellaSwag(常识续写)、PIQA(物理直觉)

不足与展望

二选一格式难以区分现代大模型。评测粒度粗,无法诊断具体推理失败类型。

叙事 常识推理 经典基准