返回评测
长文本 长上下文-理解 未饱和 模态 · 文本 任务 · 选择 / 判断

Marathon

200K+ tokens 的极端长文本理解评测

Tencent / Tsinghua ·

考察能力

极长文本理解 多步推理 信息聚合

构建信息

数据规模
6 tasks, 200K+ tokens per instance
评测方式
标准评测
核心指标
Task-specific metrics

模型效果排行

🥇 GPT-4-Turbo-128K
38.5% avg
🥈 Claude 3 Opus
42.1% avg

为什么重要

Marathon 将长文本评测推向极端——每个实例超过 200K tokens,远超大部分模型的有效处理能力。它测试的不是”能否接收长输入”而是”能否真正利用长输入中的远距离信息”。

构建方式

从多部小说、长篇论文集、法律文档集构建极长输入。设计 6 类任务:跨章节 QA、角色追踪、事件排序、论点整合、矛盾检测、总结。

任务示例

  • 输入:一部 200K+ tokens 的完整小说
  • 问题:“In chapter 3, character X made a promise. Was this promise fulfilled by the end of the book? Cite the evidence.”

关键发现

  • 大部分模型在 >128K 时性能接近随机
  • “有效上下文窗口”远小于标称值
  • 需要新的架构(如 RAG、分段处理)才能处理真正的超长文本

关联基准

InfiniteBench(100K+)、NovelQA(全本小说)、BAMBOO(多任务长文本)

不足与展望

极端长度使得评测成本极高。缺少对”信息检索策略”的独立评测。

超长文本 极端测试 200K