为什么重要
当前 LLM 在数学和物理等专业领域的推理评测中接近满分,但其推理能力能否泛化到更广泛的通用场景仍研究不足。General365 将知识门槛限制在 K-12 水平,将推理能力与专业知识显式解耦,专门测试纯粹的推理能力。
核心设计
基准包含 365 道种子问题和 1,095 道变体,涵盖 8 个类别。设计上确保高难度与高多样性并存,涉及复杂约束条件、嵌套逻辑分支和语义干扰等挑战。知识需求限制在中小学水平,使评测结果真正反映模型的推理能力而非记忆能力。
关键发现
在 26 个主流 LLM 的评测中,最佳模型准确率仅 62.8%,与这些模型在数学基准上接近满分的表现形成鲜明对比。这表明当前 LLM 的推理能力高度依赖特定领域,在通用场景中仍有很大提升空间。