为什么重要
WNLI 是 GLUE 基准中最难的子任务之一,将 Winograd Schema Challenge 转化为自然语言推理形式。因其小规模和高难度,曾是预训练模型的难关。
评测设计
给定两个句子(前提和假设),判断假设是否可以从前提中推出。核心挑战在于代词的正确消解需要常识推理。
主要发现
- 早期 BERT 在 WNLI 上表现不佳(低于随机基线)
- 需要专门的共指消解策略才能取得好成绩
- 大模型时代此任务已被充分解决
基于 Winograd Schema Challenge 的自然语言推理任务,GLUE 子集
WNLI 是 GLUE 基准中最难的子任务之一,将 Winograd Schema Challenge 转化为自然语言推理形式。因其小规模和高难度,曾是预训练模型的难关。
给定两个句子(前提和假设),判断假设是否可以从前提中推出。核心挑战在于代词的正确消解需要常识推理。