为什么重要
GQA 基于 Visual Genome 的场景图自动生成结构化问题,从根本上解决了 VQA 数据集中的标注偏差和语言捷径问题。它评测的不只是准确率,还包括一致性(同一事实不同问法)、有效性和合理性,是多模态推理评测的标杆。
构建方式
从 Visual Genome 场景图出发,通过程序化方法生成需要多步推理的问题。问题涉及空间关系、属性比较、逻辑运算等,确保必须”看图”才能回答。
任务示例
- 图片:公园场景
- 问题:“Is the dog to the left of the bench that is near the tree?” → 需要定位 dog → bench → tree 的空间关系
关键发现
- 多维度评测揭示模型”准确但不一致”的问题——换个问法就答错
- 组合推理能力是视觉模型的主要瓶颈
- 场景图生成方法保证了标注质量和可控性
关联基准
VQAv2(开放式 VQA)、CLEVR(合成视觉推理)、OK-VQA(需外部知识的 VQA)
不足与展望
场景图限于 Visual Genome 的标注质量。程序生成的问题可能缺乏自然性。