返回评测
综合 未饱和

XpertBench v3

字节跳动推出的专家级任务评测基准,1346个任务覆盖80个专业类别,采用评分量规评估

ByteDance Seed ·

考察能力

专家级推理 领域专业知识 开放式任务完成

构建信息

数据规模
1346个任务,80个类别,1000+专家提交
构建方式
200+领域专家策划,配有15-40个加权评分检查点
评测方式
ShotJudge(LLM-as-Judge + 专家少样本校准)
核心指标
Rubric-based Score

模型效果排行

🥇 最佳模型
~66% 2026-04
🥈 平均表现
~55% 2026-04

XpertBench 直面 LLM 评测的核心矛盾:传统 benchmark 已经饱和,但模型在真实专业场景中还差得远。它由 200+ 领域专家策划 1346 个专业级任务,覆盖金融、医疗、法律、教育、STEM 和人文 80 个类别,每个任务配有 15-40 个加权评分检查点的详细量规。

评估方法上的创新是 ShotJudge 范式:用 LLM 作为评判者,但通过专家少样本示例进行校准,有效缓解了 LLM-as-Judge 的自我奖励偏差。这让评估既可扩展又与人类判断对齐。

关键发现:最强模型峰值仅约 66%,平均 55%,且存在明显的领域特异性——定量推理和语言综合能力呈现非重叠优势分布。这意味着当前没有任何模型是真正的”全能专家”,AI 的专家差距依然显著。

专家级 多领域 评分量规 字节