返回评测
多模态 VLM-理解 未饱和 模态 · 图文 任务 · 开放生成

MMBench

涵盖 20 项能力维度的多模态大模型系统性评测基准

Shanghai AI Lab / SenseTime ·

考察能力

感知 推理 OCR 空间理解 细粒度识别

构建信息

数据规模
3,217 questions (en+cn)
评测方式
CircularEval(循环评测消除位置偏差)
核心指标
Accuracy

模型效果排行

🥇 GPT-4o
82.1%
🥈 InternVL2
80.5%

为什么重要

MMBench 是首个系统性评测多模态模型的中英双语基准。它设计了 20 个能力维度的层级分类体系(L-1 感知/推理 → L-2 粗/细粒度感知 → L-3 具体能力),支持精确的能力诊断。CircularEval 通过旋转选项顺序消除位置偏差,比传统评测更公平。

构建方式

专家手工构建选择题,每题映射到能力分类树的具体叶节点。CircularEval 将每题扩展为 N 个变体(循环移位选项),只有全部答对才算正确。

任务示例

  • 能力:Fine-grained Cross-instance Attribute
  • 图片:两只不同颜色的猫
  • 问题:“Which cat is larger?” → 需同时识别两只猫的大小属性

关键发现

  • CircularEval 让很多模型的”虚假准确率”暴跌 10-15%
  • 推理能力是大多数模型的最大短板,远弱于感知能力
  • 中英版本得分差异揭示了多语言多模态的不平衡

关联基准

MMMMU(大学级多模态)、MMStar(理科多模态)、SEED-Bench(大规模多模态)

不足与展望

选择题格式仍有猜测空间。3K 量级的数据对细粒度能力分析不够充分。

多模态 综合评测 多维度 中英双语