返回评测
多模态 VLM-推理 未饱和 模态 · 图文 任务 · 选择 / 判断

GQA

基于场景图的 2200 万组合视觉推理问题

Stanford University ·

考察能力

视觉推理 空间关系 组合理解 属性识别

构建信息

数据规模
22M questions, 113K images
评测方式
标准评测
核心指标
Accuracy / Consistency / Validity / Plausibility

模型效果排行

🥇 GPT-4o
64.3%
🥈 Gemini 1.5 Pro
62.1%

为什么重要

GQA 基于 Visual Genome 的场景图自动生成结构化问题,从根本上解决了 VQA 数据集中的标注偏差和语言捷径问题。它评测的不只是准确率,还包括一致性(同一事实不同问法)、有效性和合理性,是多模态推理评测的标杆。

构建方式

从 Visual Genome 场景图出发,通过程序化方法生成需要多步推理的问题。问题涉及空间关系、属性比较、逻辑运算等,确保必须”看图”才能回答。

任务示例

  • 图片:公园场景
  • 问题:“Is the dog to the left of the bench that is near the tree?” → 需要定位 dog → bench → tree 的空间关系

关键发现

  • 多维度评测揭示模型”准确但不一致”的问题——换个问法就答错
  • 组合推理能力是视觉模型的主要瓶颈
  • 场景图生成方法保证了标注质量和可控性

关联基准

VQAv2(开放式 VQA)、CLEVR(合成视觉推理)、OK-VQA(需外部知识的 VQA)

不足与展望

场景图限于 Visual Genome 的标注质量。程序生成的问题可能缺乏自然性。

视觉推理 场景图 VQA 组合性