为什么重要
JailbreakBench 标准化了越狱攻击评测流程，提供统一的有害行为集、攻击方法基线和防御评估。是 AI 安全红队测试的标准平台。
评测设计
100 个标准有害行为请求，配合多种越狱攻击方法（GCG, PAIR, AutoDAN 等），评估不同模型的防御能力。
返回评测
对齐与安全 安全-越狱 未饱和
模态 · 文本
任务 · 开放生成
JailbreakBench
标准化的 LLM 越狱攻击与防御评测框架
Multiple ·
考察能力
越狱防御 安全对齐 鲁棒性
构建信息
- 数据规模
- 100 有害行为
- 评测方式
- LLM 判断 + 人工验证
- 核心指标
- Attack Success Rate (ASR)
资源链接
模型效果排行
🥇 GPT-4o
varies by attack
🥈 Claude 3.5 Sonnet
varies by attack
越狱攻防 AI安全 对抗 Red Team