为什么重要
A-OKVQA 是 OK-VQA 的全面升级——不仅需要外部知识,还需要常识推理、文化知识和视觉推理的组合。每个问题都标注了推理类别(知识、视觉、语言、常识),支持细粒度能力分析。同时提供选择题(MC)和直接回答(DA)两种评测模式。
构建方式
众包标注者对 COCO 图片提问,设计要求同时涉及视觉理解和知识推理。每题标注推理类型、10 个参考答案、选择题选项。质量控制更严格。
任务示例
- 图片:一辆老式红色消防车
- 问题:“In what decade was this type of vehicle first widely used?” → 答案:“1920s”
- 推理:需视觉识别(老式消防车)+ 历史知识
关键发现
- DA 模式下准确率比 MC 模式低 15-20%,说明模型依赖选项提示
- 常识推理题是最难的类别
- 检索增强 + 视觉模型的组合效果最好
关联基准
OK-VQA(前身)、VQAv2(标准 VQA)、InfoVQA(信息图 QA)
不足与展望
仍基于 COCO 图片,视觉场景多样性有限。答案评测仍依赖字符串匹配。