为什么重要
HarmBench 是评测模型安全性（对有害请求的防御能力）的标准基准。覆盖 7 类有害行为。
构建方式与示例
400+ 有害请求，7 类：化学/生物/网络攻击/违法/版权/歧视/虚假信息。评测模型是否拒绝回答。
关联基准与展望
关联：XSTest（过度拒绝检测）、MM-SafetyBench。两者互补：HarmBench 测该拒绝的能否拒绝，XSTest 测不该拒绝的是否误拒。
返回评测
对齐与安全 安全-有害内容 未饱和
模态 · 文本
任务 · 分类
HarmBench
评估模型对 510 种有害行为的抵抗能力，覆盖直接请求和越狱攻击
多校联合 ·
考察能力
安全性 越狱抵抗 有害内容 红队测试
构建信息
- 数据规模
- 510 behaviors / 多种攻击方式
- 评测方式
- 标准评测
- 核心指标
- Attack Success Rate (%)
资源链接
模型效果排行
🥇 Claude Opus 4
3.2% ASR
🥈 GPT-5
4.8% ASR
🥉 Llama 3.1 70B
12.4% ASR
安全 越狱 红队 有害内容