返回评测
多模态 VLM-推理 未饱和 模态 · 图文 任务 · 选择 / 判断

A-OKVQA

VQAv2 和 OK-VQA 的升级版,需要常识和世界知识的视觉推理

Georgia Tech / AI2 ·

考察能力

视觉推理 世界知识 常识推理 文化知识

构建信息

数据规模
25,000 questions
评测方式
标准评测
核心指标
Accuracy (MC) / VQA Score (DA)

模型效果排行

🥇 GPT-4o
78.2%
🥈 Gemini 1.5 Pro
75.6%

为什么重要

A-OKVQA 是 OK-VQA 的全面升级——不仅需要外部知识,还需要常识推理、文化知识和视觉推理的组合。每个问题都标注了推理类别(知识、视觉、语言、常识),支持细粒度能力分析。同时提供选择题(MC)和直接回答(DA)两种评测模式。

构建方式

众包标注者对 COCO 图片提问,设计要求同时涉及视觉理解和知识推理。每题标注推理类型、10 个参考答案、选择题选项。质量控制更严格。

任务示例

  • 图片:一辆老式红色消防车
  • 问题:“In what decade was this type of vehicle first widely used?” → 答案:“1920s”
  • 推理:需视觉识别(老式消防车)+ 历史知识

关键发现

  • DA 模式下准确率比 MC 模式低 15-20%,说明模型依赖选项提示
  • 常识推理题是最难的类别
  • 检索增强 + 视觉模型的组合效果最好

关联基准

OK-VQA(前身)、VQAv2(标准 VQA)、InfoVQA(信息图 QA)

不足与展望

仍基于 COCO 图片,视觉场景多样性有限。答案评测仍依赖字符串匹配。

VQA 知识推理 常识 多模态