返回评测
推理 空间推理 未饱和 模态 · 图文 任务 · 选择 / 判断 ICLR 2026 Workshop on Efficient Spatial Reasoning

SCBench (Spatial Competence Benchmark)

层级化评估 LLM 空间推理能力的基准,要求生成可执行输出并通过确定性验证

未披露 ·

考察能力

空间表征维持 几何结构推理 全局约束满足 可执行输出生成

构建信息

数据规模
层级化任务集(三个递增难度级别)
构建方式
程序化生成 + 确定性验证器/模拟器评估
评测方式
确定性检查器 + 模拟器评估(可执行输出验证)
核心指标
准确率 (%)

模型效果排行

🥇 三个前沿模型
随能力层级递增而单调递减 2026-04

为什么重要

空间能力——维持对环境的一致内部表征并利用它推断结构、规划行动——是智能的基础维度之一。但现有 LLM 空间评估局限于通过 3D 变换或视觉问答测试孤立的基元能力。SCBench 被 ICLR 2026 Workshop 接收,提出了一个层级化的评估框架,不只是问”知不知道”,而是要求模型生成可执行输出,通过确定性程序验证其空间推理的正确性。

核心设计

SCBench 包含三个层级化的能力桶,任务难度递增。关键创新是要求模型输出可执行代码或结构化描述,由确定性检查器或基于模拟器的评估器自动验证。配套发布了任务生成器、验证器和可视化工具,支持持续扩展。

关键发现

三个前沿模型在 SCBench 上呈现出随能力层级上升而单调递减的准确率,表明当前模型在低层空间基元上尚可但在需要全局约束推理的高层任务上显著退化。通过 token 预算实验发现,准确率提升集中在低预算区间后迅速饱和,说明更长的推理链并不能解决空间推理的根本困难。主要失败模式是:局部看似合理的几何结构违反了全局约束。

空间推理 几何 可执行输出 确定性验证 ICLR 2026