为什么重要
LM-Eval-Harness 是 LLM 评测的事实标准框架,几乎所有开源模型发布时都使用它报告成绩。支持 400+ 任务的统一评测接口,确保评测的可复现性。
评测设计
提供统一的模型接口和任务配置系统,支持 few-shot 设置、多种 prompt 模板和自动化评测流程。
主要发现
- 评测标准化是开源 LLM 社区的基础设施
- 不同框架间的评测结果常有差异,LM-Eval-Harness 努力成为金标准
EleutherAI 的统一评测框架,支持 400+ 任务
LM-Eval-Harness 是 LLM 评测的事实标准框架,几乎所有开源模型发布时都使用它报告成绩。支持 400+ 任务的统一评测接口,确保评测的可复现性。
提供统一的模型接口和任务配置系统,支持 few-shot 设置、多种 prompt 模板和自动化评测流程。