为什么重要
ScienceQA 是第一个大规模多模态科学推理基准,题目含有图表、示意图等视觉信息。它同时标注了解题思路(CoT),推动了多模态 Chain-of-Thought 研究。
构建方式
- 收集美国 K-12 科学课程题目
- 涵盖自然科学、社会科学、语言科学
- 约 48% 题目包含图像
- 人工标注解题思路
任务示例
图片:食物链示意图 问题:“In the food web shown, which organism is a primary consumer?” 选项:A) Hawk B) Rabbit C) Grass D) Fox
关键发现
- 多模态 CoT 比纯文本 CoT 显著提升
- 但前沿模型已接近饱和
- 图表理解仍是主要差异来源
关联基准
不足与展望
- 题目偏基础(K-12),对前沿模型太简单
- 部分题目不依赖图像即可回答
- 但 CoT 标注数据有额外价值