为什么重要
在 HumanEval(函数级)和 SWE-bench(仓库级)之间,评测生成完整 Python 类的能力。方法间依赖越多,成功率越低。
构建方式与示例
100 个 Python 类 / 412 个方法。例如:“实现一个 BinarySearchTree 类,包含 insert/search/delete/traverse 方法。“
关联基准与展望
关联:HumanEval、BigCodeBench。不足:只有 Python,类设计偏简单。
100 个 Python 类生成任务,填补函数级和仓库级之间的评测空白
在 HumanEval(函数级)和 SWE-bench(仓库级)之间,评测生成完整 Python 类的能力。方法间依赖越多,成功率越低。
100 个 Python 类 / 412 个方法。例如:“实现一个 BinarySearchTree 类,包含 insert/search/delete/traverse 方法。“
关联:HumanEval、BigCodeBench。不足:只有 Python,类设计偏简单。