返回评测
领域专业 领域-医学 未饱和 模态 · 文本 任务 · 选择 / 判断

BioASQ

年度生物医学 QA 竞赛,测试文献检索与知识推理

National Center for Scientific Research 'Demokritos' ·

考察能力

生物医学QA 文献检索 知识推理

构建信息

数据规模
~5,000 questions (累计)
评测方式
标准评测
核心指标
F1 / MRR / MAP

资源链接

模型效果排行

🥇 GPT-4o
~78% F1
🥈 PubMedBERT
~72% F1

为什么重要

BioASQ 是生物医学 NLP 领域历时最长的年度竞赛(2013 年至今),涵盖从文献检索到精确问答的全链路。它是评测生物医学领域 LLM 应用的权威基准。

构建方式

  1. 生物医学专家手工构造问题
  2. 分为 Yes/No、事实型、列表型、摘要型四类
  3. 答案基于 PubMed 文献

任务示例

问题:“Is BRCA1 involved in DNA repair?” 类型:Yes/No 期望:Yes,并引用相关文献证据

关键发现

  • LLM 在事实型问题上接近专家水平
  • 文献检索+生成的 RAG 方案效果最好
  • 摘要型问题仍有挑战

关联基准

不足与展望

  • 竞赛形式导致数据逐年累积但不完全公开
  • 标注质量参差
  • 但作为持续运行的领域竞赛有独特价值
生物医学 竞赛 文献检索 QA