为什么重要
空间能力——维持对环境的一致内部表征并利用它推断结构、规划行动——是智能的基础维度之一。但现有 LLM 空间评估局限于通过 3D 变换或视觉问答测试孤立的基元能力。SCBench 被 ICLR 2026 Workshop 接收,提出了一个层级化的评估框架,不只是问”知不知道”,而是要求模型生成可执行输出,通过确定性程序验证其空间推理的正确性。
核心设计
SCBench 包含三个层级化的能力桶,任务难度递增。关键创新是要求模型输出可执行代码或结构化描述,由确定性检查器或基于模拟器的评估器自动验证。配套发布了任务生成器、验证器和可视化工具,支持持续扩展。
关键发现
三个前沿模型在 SCBench 上呈现出随能力层级上升而单调递减的准确率,表明当前模型在低层空间基元上尚可但在需要全局约束推理的高层任务上显著退化。通过 token 预算实验发现,准确率提升集中在低预算区间后迅速饱和,说明更长的推理链并不能解决空间推理的根本困难。主要失败模式是:局部看似合理的几何结构违反了全局约束。