为什么重要
COPA 是因果推理领域最经典的基准,测试模型能否选择正确的原因或结果。虽然规模小,但它是 SuperGLUE 的核心任务之一,长期作为常识推理的标准测试。
构建方式
- 人工编写因果关系前提
- 每个前提配两个候选(原因或结果),需选出更合理的一个
- 500 道问原因,500 道问结果
任务示例
前提:“The man broke his toe.” 问题:“What was the CAUSE of this?” 选项:A) He got his foot caught in the door. B) He dropped a hammer on his foot.
关键发现
- 前沿模型已完全饱和(>99%)
- 曾是 NLU 时代的重要区分基准
- SuperGLUE 中最先被”解决”的任务之一
关联基准
- HellaSwag:常识推理
- PIQA:物理直觉推理
- WinoGrande:指代消解
不足与展望
- 规模极小(1K),统计不稳定
- 已完全饱和,失去区分能力
- 二选一格式过于简单