返回评测
文档与OCR 文档-版面分析 已饱和 模态 · 图像 任务 · 检测 / 标注 ICDAR 2019 已替代

PubLayNet

从 PubMed 文献自动标注的大规模版面数据集,5 类版面元素,推动了 LayoutLM 等一系列文档 AI 模型的发展

IBM Research ·

考察能力

版面分析 文档结构理解 区域检测

构建信息

数据规模
360,000+ 页,5 类版面元素
构建方式
从 PubMed Central 开放获取的医学文献 PDF 中,用 XML 元数据自动对齐生成版面标注
评测方式
版面元素检测(mAP / IoU)
核心指标
mAP@IoU

为什么重要

PubLayNet 是文档版面分析这个方向真正「跑起来」的起点。它的关键创新不在标注质量,而在规模与获取方式:研究者发现 PubMed Central 的开放获取文献同时提供 PDF 和结构化 XML,两者可以自动对齐——于是不需要人工标注就得到了 36 万页带版面标签的数据。

这个思路(用已有的结构化元数据反向生成视觉标注)后来被反复复制,是文档 AI 数据工程里一条重要的低成本路径。它支撑起 LayoutLM 系列、DiT 等一系列模型的预训练,可以说今天文档版面模型的底子有一半是它打的。

但要清醒:它的局限也很明显——来源单一(医学文献)、类别只有 5 类(Text / Title / List / Table / Figure)。跨到其他文档类型上性能会掉,这也是 DocLayNet 后来出现的原因。当前它已基本完成历史使命,作为基线参考与预训练语料仍有价值,但做选型判断应该用更新的基准。

构建方式

  1. 从 PubMed Central 开放获取子集下载医学文献(同时含 PDF 与结构化 XML)
  2. 解析 XML 中的版面信息(章节标题、正文、列表、表格、图形),提取对应元素
  3. 将 XML 元素与 PDF 页面坐标自动对齐,生成边界框标注
  4. 归类为 5 类:Text、Title、List、Table、Figure
  5. 划分训练/验证/测试集,采用 COCO 格式

任务示例

给定一页医学论文 PDF 渲染图,模型输出:

[
  {"label": "Title",  "bbox": [60, 50, 530, 80]},
  {"label": "Text",   "bbox": [60, 100, 280, 400]},
  {"label": "Figure", "bbox": [300, 100, 530, 300]},
  {"label": "Table",  "bbox": [60, 430, 530, 700]}
]

最新进展

  • 作为 LayoutLM / LayoutLMv2 / LayoutLMv3 / DiT 等模型的预训练与评测集,推动了文档预训练这一整个方向
  • 自动对齐生成标注的方法被广泛借鉴到专利、财报等其他领域
  • 因其来源单一与类别有限,后续被 DocLayNet(多来源 11 类)等更全面的数据集补足,目前更多作为历史基线

关键发现

  • 结构化元数据是免费的标注源:PDF + XML 双通道对齐,把人工标注成本降到接近零——这条思路比数据集本身更有价值
  • 规模换来了迁移能力:36 万页让文档预训练成为可能,而不只是监督微调
  • 来源单一导致迁移衰减:医学文献上学到的版面先验,迁移到财报、专利上会掉点
  • 饱和提醒:版面检测在该集上已接近上限,应转向多来源、细粒度的 DocLayNet 一类基准
版面分析 文档AI OCR 医学文献 IBM 数据集