为什么重要
RTE(Recognizing Textual Entailment)是文本蕴含领域的开创性系列挑战赛。合并后作为 GLUE 和 SuperGLUE 的共同子任务,是衡量模型推理能力的经典探针。
评测设计
给定前提和假设,判断是否存在蕴含关系(二分类)。数据来自多年 RTE 挑战赛的合并。
主要发现
- 小规模但难度较高,是 few-shot 评测的理想选择
- SuperGLUE 使用了相同数据但更严格的评估
GLUE/SuperGLUE 文本蕴含二分类任务
RTE(Recognizing Textual Entailment)是文本蕴含领域的开创性系列挑战赛。合并后作为 GLUE 和 SuperGLUE 的共同子任务,是衡量模型推理能力的经典探针。
给定前提和假设,判断是否存在蕴含关系(二分类)。数据来自多年 RTE 挑战赛的合并。