为什么重要
XSum 要求生成高度抽象的单句摘要,不能简单复制原文。是测试模型信息浓缩和忠实性的严苛基准。
评测设计
BBC 新闻文章 + 编辑撰写的单句导语。因高度抽象,幻觉问题尤为突出。
主要发现
- 忠实性(faithfulness)是 XSum 的核心挑战
- ROUGE 分数低并不一定意味着摘要质量差
BBC 新闻单句极端摘要基准,高度抽象化
XSum 要求生成高度抽象的单句摘要,不能简单复制原文。是测试模型信息浓缩和忠实性的严苛基准。
BBC 新闻文章 + 编辑撰写的单句导语。因高度抽象,幻觉问题尤为突出。