返回评测
多模态 视频-长视频 未饱和 模态 · 视频 任务 · 选择 / 判断

LongVideoBench

时长从数分钟到一小时的长视频问答基准,题目需要跨长时间跨度的信息检索与指代推理,而非单帧识别

多校联合(LongVideoBench 团队) ·

考察能力

长视频理解 跨时段检索 指代推理 音视频对齐

构建信息

数据规模
6,678 道多选题,视频时长数分钟至约 1 小时
构建方式
从电影、纪录片、讲座等长视频中切片标注,题目设计为必须跨越较长时段检索信息或做指代消解
评测方式
选择题精确匹配
核心指标
Accuracy

为什么重要

短视频理解(几秒到几十秒)已经不难了——抽几帧就能解决大半。长视频的难点在别处:信息散落在几分钟甚至几十分钟里,而且题目里的指代(「他后来提到的那个方案」)需要跨时段对齐。

LongVideoBench 的设计就盯着这两点:一是把视频拉长到分钟级乃至小时级,二是题目刻意要求跨时段检索和指代推理。它还有个特别之处——提供带字幕与不带字幕两种设置,可以直接量化「语音/字幕信息」对长视频理解的贡献。

对数据侧的含义:长视频训练数据的成本结构是「抽帧数量 × 视频时长」,而收益并不线性。LongVideoBench 上的表现说明,单纯堆帧数解决不了跨时段对齐问题——需要的是时序结构化的监督(谁在什么时候说了什么、前后如何呼应)。这类标注远比「给视频配一句描述」昂贵。

构建方式

  1. 收集长视频素材(电影、纪录片、教学与讲座等),切片后保留完整时间轴
  2. 标注者设计必须跨较长时段才能回答的问题:
    • 跨时段检索:答案所需的线索分散在视频不同位置
    • 指代推理:需要把题干里的代词/指称对齐到视频中的具体片段
  3. 每题配 3-4 个干扰项,干扰项设计成「局部正确但整体错误」,防止靠单帧蒙对
  4. 提供带字幕与不带字幕两种评测设置
  5. 按视频时长分档统计,便于观察性能随时长的衰减

任务示例

跨时段检索:

视频开头提到的那个实验,在第 32 分钟复述时,数据被修正成了多少?

指代推理:

嘉宾说的「那次失败」指的是她在前面提到的哪一件事?

这类题的解法必须先把题干里的指称定位到具体时间区间,再回到该区间提取细节——单看任何一帧或任何一小段都答不出来。

最新进展

  • 发布时的基线显示:模型成绩随视频时长增长而明显衰减,长视频仍是多模态的薄弱区
  • 「带字幕」设置的成绩显著高于「不带字幕」,说明语音转写/字幕信息是当前长视频理解的重要补充通道
  • 后续的长视频模型主要通过更高效的帧采样策略(而非简单增加帧数)与时序建模来提升成绩

关键发现

  • 难点在跨时段对齐而非帧数:给更多帧的收益递减,真正的瓶颈是把分散信息串成结构
  • 字幕是重要补充:语音通道提供的信息量在长视频上尤其关键
  • 干扰项设计有效:「局部正确」的干扰项能有效区分真理解与片段匹配
  • 时长是难度杠杆:同一模型在 5 分钟档与 60 分钟档的表现差距显著
视频理解 长上下文 多模态 检索推理 指代消解