返回评测
综合 综合-知识 接近饱和 模态 · 文本 任务 · 选择 / 判断

LAMBADA

预测需要整段文本理解才能推断的最后一个词,10K 段落

University of Trento ·

考察能力

语言建模 长距离依赖 叙事理解

构建信息

数据规模
10,022 passages
评测方式
标准评测
核心指标
Accuracy / Perplexity

模型效果排行

🥇 GPT-4
96.3%
🥈 PaLM 2
95.5%

为什么重要

LAMBADA 测试的是模型对叙事文本的深层理解——每个测试样本要求预测段落的最后一个词,而这个词只能通过理解整段叙事上下文才能推断。人类在看完全段后几乎 100% 正确,但只看最后一句则下降到 50% 以下,证明任务确实需要长距离理解。

构建方式

从 BookCorpus 中筛选段落,要求满足:(1) 人类看完全文能轻松猜出最后一词,(2) 只看最后一句无法猜对。双重标注确保质量。

任务示例

  • 段落讲述一个角色在雨中奔跑回家的场景,最后一句:“He finally reached the front door and turned the ___” → 答案:“knob”

关键发现

  • GPT-2 时代准确率仅 ~63%,GPT-3 跃升到 ~86%,展示了规模扩展对长距离理解的效果
  • 成为衡量语言模型”真正理解”vs”统计拟合”的重要试金石
  • 少样本提示能显著提升表现

关联基准

HellaSwag(常识续写)、StoryCloze(故事结局预测)、PIQA(物理直觉)

不足与展望

主流模型已接近饱和。单词预测格式限制了评测深度,后续研究更多转向段落级和文档级的理解评测。

语言建模 经典基准 长距离依赖