为什么重要
将 HumanEval 和 MBPP 翻译为 22 种编程语言,测试模型的多语言代码生成能力。
构建方式与示例
22 种语言:Python/Java/JS/TS/C++/Rust/Go/Ruby/Perl 等。同一题目在不同语言上评测。
关联基准与展望
关联:HumanEval、Aider Polyglot。不足:翻译可能引入 bug。
将 HumanEval/MBPP 翻译到 18 种编程语言,评估跨语言代码生成能力
将 HumanEval 和 MBPP 翻译为 22 种编程语言,测试模型的多语言代码生成能力。
22 种语言:Python/Java/JS/TS/C++/Rust/Go/Ruby/Perl 等。同一题目在不同语言上评测。
关联:HumanEval、Aider Polyglot。不足:翻译可能引入 bug。