返回评测
代码生成 代码-函数级 已饱和 模态 · 代码 任务 · 代码生成

HumanEval

164 道手写 Python 编程题,代码生成评测开山之作,已饱和

OpenAI ·

考察能力

Python编程 函数实现

构建信息

数据规模
164 problems
评测方式
标准评测
核心指标
pass@1 (%)

模型效果排行

🥇 GPT-5
95.1%
🥈 Claude Opus 4
93.7%

为什么重要

代码生成评测的开山之作(Codex 论文配套)。164 道 Python 函数题。已饱和(95%+),EvalPlus 是其增强版。

构建方式与示例

每题给函数签名+docstring,模型生成函数体。例如:def is_palindrome(s: str) -> bool: """判断是否为回文"""

关联基准与展望

关联:EvalPlus、MBPP、BigCodeBench。已饱和。

代码生成 Python 已饱和