为什么重要
AI Agent 正在改变文档解析的需求标准——不再是简单的文本提取,而是要保证语义正确性:表格结构不能错乱,图表数据不能偏差,格式必须保留业务含义。现有 OCR/解析基准依赖狭窄的文档分布和文本相似度指标,无法捕捉对 Agent 决策至关重要的失败模式。ParseBench 直击这个缺口,用 167,000 条确定性测试规则替代模糊的相似度评分。
核心设计
基准从保险、金融和政府三大行业收集约 2,000 页企业文档,全部经过人工验证。评估分五个维度:表格结构正确性、图表数据精确提取、内容忠实度、语义格式保留和视觉定位能力。每个维度都有确定性测试规则,而非依赖 LLM 判断或文本相似度。
关键发现
对 14 种方法(VLM、专用解析器、LlamaParse 系列)的评测揭示了一个碎片化的能力格局:没有任何方法在所有五个维度上始终表现强劲。LlamaParse Agentic 以 84.9% 的综合得分领先,但不同维度间的表现差异仍然显著,说明面向 Agent 的文档解析技术仍有大幅提升空间。数据集托管于 HuggingFace,评估代码完全开源。