返回评测
多模态 VLM-推理 接近饱和 模态 · 图文 任务 · 选择 / 判断

ScienceQA

21K 道中小学科学题,配以图表和解题思路,测试多模态推理链

UCLA / Microsoft ·

考察能力

多模态推理 科学推理 Chain-of-Thought

构建信息

数据规模
21,208 questions
评测方式
标准评测
核心指标
Accuracy

模型效果排行

🥇 GPT-4o
96.1%
🥈 Claude 3.5 Sonnet
95.3%

为什么重要

ScienceQA 是第一个大规模多模态科学推理基准,题目含有图表、示意图等视觉信息。它同时标注了解题思路(CoT),推动了多模态 Chain-of-Thought 研究。

构建方式

  1. 收集美国 K-12 科学课程题目
  2. 涵盖自然科学、社会科学、语言科学
  3. 约 48% 题目包含图像
  4. 人工标注解题思路

任务示例

图片:食物链示意图 问题:“In the food web shown, which organism is a primary consumer?” 选项:A) Hawk B) Rabbit C) Grass D) Fox

关键发现

  • 多模态 CoT 比纯文本 CoT 显著提升
  • 但前沿模型已接近饱和
  • 图表理解仍是主要差异来源

关联基准

不足与展望

  • 题目偏基础(K-12),对前沿模型太简单
  • 部分题目不依赖图像即可回答
  • 但 CoT 标注数据有额外价值
多模态 科学 教育 CoT