返回评测
多模态 VLM-推理 未饱和 模态 · 图文 任务 · 选择 / 判断

OK-VQA

需要外部知识(非图片可见信息)才能回答的视觉问题

Georgia Tech ·

考察能力

外部知识检索 视觉问答 跨模态推理

构建信息

数据规模
14,055 questions, 14,031 images
评测方式
标准评测
核心指标
VQA Accuracy

模型效果排行

🥇 GPT-4o
73.8%
🥈 Gemini 1.5 Pro
71.2%

为什么重要

OK-VQA 的设计原则是:每个问题都必须依赖图片之外的知识才能回答。比如看到一座桥问”这座桥哪一年建成”,或看到一种植物问”它的原产地在哪”。这要求模型同时具备视觉识别和知识检索/推理能力。

构建方式

众包标注者对 COCO 图片提问,规则是”问题不能只通过看图回答,必须需要外部知识”。多人回答取最常见答案。

任务示例

  • 图片:一只柯基犬
  • 问题:“What country does this breed originate from?” → 答案:“Wales”

关键发现

  • 纯视觉模型在该基准上远弱于检索增强模型
  • LLM 的内在知识可以部分替代显式检索
  • 知识密集型视觉问答是多模态模型的重要应用方向

关联基准

A-OKVQA(升级版)、VQAv2(标准 VQA)、WebQA(需要多模态检索)

不足与展望

知识来源不透明,难以判断模型是”真的知道”还是”碰巧猜对”。需要更好的归因机制。

VQA 知识 多模态推理