返回评测
多模态 VLM-理解 未饱和 模态 · 图文 任务 · 开放生成

MuirBench

11,264 道多图理解题,覆盖 12 类多图关系,评测模型的多图推理能力

CMU / Microsoft ·

考察能力

多图推理 空间理解 时序理解 跨图对比

构建信息

数据规模
11,264 questions
评测方式
标准评测
核心指标
Accuracy

模型效果排行

🥇 GPT-4o
68.0%
🥈 Claude 3.5 Sonnet
65.3%

为什么重要

MuirBench 系统地定义了 12 类多图关系(对比、时序、空间、因果等),是目前规模最大、分类最细的多图理解评测。弥补了多模态评测长期偏重单图的不足。

构建方式

  1. 定义 12 种多图关系类型
  2. 从多个数据源收集和构造多图场景
  3. 混合 Yes/No、选择题、开放式问答

任务示例

多图:同一场景在不同时间拍摄的两张照片 问题:“What changed between the two images?”

关键发现

  • 最强模型在复杂多图关系上仍不到 70%
  • 空间关系和因果推理是最弱环节
  • 单图能力不能直接迁移到多图

关联基准

不足与展望

  • 部分题目依赖表面线索
  • 多图关系的定义边界有模糊地带
  • 但系统化分类框架有参考价值
多图 多模态 综合