返回评测
推理 常识推理 已饱和 模态 · 文本 任务 · 选择 / 判断

COPA

1,000 道因果推理选择题,测试模型对因果关系的理解

University of Southern California ·

考察能力

因果推理 常识推理

构建信息

数据规模
1,000 questions
评测方式
标准评测
核心指标
Accuracy

模型效果排行

🥇 GPT-4o
99.6%
🥈 Claude 3.5 Sonnet
99.2%

为什么重要

COPA 是因果推理领域最经典的基准,测试模型能否选择正确的原因或结果。虽然规模小,但它是 SuperGLUE 的核心任务之一,长期作为常识推理的标准测试。

构建方式

  1. 人工编写因果关系前提
  2. 每个前提配两个候选(原因或结果),需选出更合理的一个
  3. 500 道问原因,500 道问结果

任务示例

前提:“The man broke his toe.” 问题:“What was the CAUSE of this?” 选项:A) He got his foot caught in the door. B) He dropped a hammer on his foot.

关键发现

  • 前沿模型已完全饱和(>99%)
  • 曾是 NLU 时代的重要区分基准
  • SuperGLUE 中最先被”解决”的任务之一

关联基准

不足与展望

  • 规模极小(1K),统计不稳定
  • 已完全饱和,失去区分能力
  • 二选一格式过于简单
因果推理 常识 经典基准