返回评测
代码生成 代码-函数级 未饱和 模态 · 代码 任务 · 代码生成

ClassEval

100 个 Python 类生成任务,填补函数级和仓库级之间的评测空白

FudanNLP ·

考察能力

类实现 方法间依赖 OOP

构建信息

数据规模
100 classes / 412 methods
构建方式
人工编写
评测方式
单元测试通过
核心指标
class-level pass@1 (%)

模型效果排行

🥇 GPT-4
~50% 2024-01

为什么重要

在 HumanEval(函数级)和 SWE-bench(仓库级)之间,评测生成完整 Python 类的能力。方法间依赖越多,成功率越低。

构建方式与示例

100 个 Python 类 / 412 个方法。例如:“实现一个 BinarySearchTree 类,包含 insert/search/delete/traverse 方法。“

关联基准与展望

关联:HumanEval、BigCodeBench。不足:只有 Python,类设计偏简单。

代码生成 类级别 OOP