为什么重要
MuirBench 系统地定义了 12 类多图关系(对比、时序、空间、因果等),是目前规模最大、分类最细的多图理解评测。弥补了多模态评测长期偏重单图的不足。
构建方式
- 定义 12 种多图关系类型
- 从多个数据源收集和构造多图场景
- 混合 Yes/No、选择题、开放式问答
任务示例
多图:同一场景在不同时间拍摄的两张照片 问题:“What changed between the two images?”
关键发现
- 最强模型在复杂多图关系上仍不到 70%
- 空间关系和因果推理是最弱环节
- 单图能力不能直接迁移到多图
关联基准
- Mantis-Eval:多图对话
- BLINK:视觉感知
- SEED-Bench:多模态理解
不足与展望
- 部分题目依赖表面线索
- 多图关系的定义边界有模糊地带
- 但系统化分类框架有参考价值