为什么重要
LAMBADA 测试的是模型对叙事文本的深层理解——每个测试样本要求预测段落的最后一个词,而这个词只能通过理解整段叙事上下文才能推断。人类在看完全段后几乎 100% 正确,但只看最后一句则下降到 50% 以下,证明任务确实需要长距离理解。
构建方式
从 BookCorpus 中筛选段落,要求满足:(1) 人类看完全文能轻松猜出最后一词,(2) 只看最后一句无法猜对。双重标注确保质量。
任务示例
- 段落讲述一个角色在雨中奔跑回家的场景,最后一句:“He finally reached the front door and turned the ___” → 答案:“knob”
关键发现
- GPT-2 时代准确率仅 ~63%,GPT-3 跃升到 ~86%,展示了规模扩展对长距离理解的效果
- 成为衡量语言模型”真正理解”vs”统计拟合”的重要试金石
- 少样本提示能显著提升表现
关联基准
HellaSwag(常识续写)、StoryCloze(故事结局预测)、PIQA(物理直觉)
不足与展望
主流模型已接近饱和。单词预测格式限制了评测深度,后续研究更多转向段落级和文档级的理解评测。