返回评测
多模态 VLM-理解 已饱和 模态 · 图文 任务 · 开放生成

COCO Captions

330K 图像 + 150 万条描述的大规模图像描述基准

Microsoft ·

考察能力

图像描述 视觉理解 自然语言生成

构建信息

数据规模
330K images, 1.5M captions
评测方式
标准评测
核心指标
CIDEr / BLEU-4 / METEOR / SPICE

模型效果排行

🥇 GPT-4o
145.2 CIDEr
🥈 Gemini 1.5 Pro
142.8 CIDEr

为什么重要

MS COCO Captions 是图像描述(Image Captioning)的事实标准基准,也是视觉-语言研究的基础数据集。几乎所有多模态模型的预训练和评测都绕不开 COCO。虽然现代模型在标准指标上已接近饱和,但 COCO 的生态地位使其持续被使用。

构建方式

从 Flickr 收集日常场景图片,每张图片由 5 位标注者独立编写自然语言描述。覆盖 91 个物体类别。

任务示例

  • 图片:公园中一家人在野餐
  • Caption 1: “A family having a picnic in a sunny park”
  • Caption 2: “People sitting on a blanket with food and a dog nearby”
  • 5 个 caption 提供多样的合理描述

关键发现

  • Attention 机制在 COCO 上的成功催生了 Transformer 对视觉语言的革命
  • CIDEr 指标比 BLEU 更好地评估描述质量
  • 人类描述的多样性使得自动评测指标有天花板

关联基准

Flickr30K(较小规模)、NoCaps(新物体描述)、VQAv2(视觉问答)

不足与展望

描述偏向简单事实陈述,缺乏深层理解。标准指标与人类判断的相关性有限。

图像描述 经典基准 视觉语言 里程碑