为什么重要
270 个论文复现任务,三级难度——从 Nature/Science 等顶刊收集,评估 Agent 的计算可复现性。
构建方式与示例
给论文代码仓库,Agent 需配好环境、运行代码、得到与论文一致的结果。Hard 级别只有 21%。
关联基准与展望
关联:PaperBench、ScienceAgentBench。不足:依赖环境稳定性。
270 个论文复现任务,三级难度,评估 Agent 对计算型论文的复现能力
270 个论文复现任务,三级难度——从 Nature/Science 等顶刊收集,评估 Agent 的计算可复现性。
给论文代码仓库,Agent 需配好环境、运行代码、得到与论文一致的结果。Hard 级别只有 21%。
关联:PaperBench、ScienceAgentBench。不足:依赖环境稳定性。