返回评测
对齐与安全 安全-越狱 未饱和 模态 · 文本 任务 · 开放生成

StrongREJECT

系统化评估 LLM 对越狱攻击的抵抗力，包含多种攻击手法和自动化评分

University of Washington ·

考察能力

安全拒绝 越狱抵抗 有害内容检测

构建信息

数据规模
313 forbidden prompts × multiple attack methods
评测方式
自动评分（rubric-based）
核心指标
Attack Success Rate / StrongREJECT Score

资源链接

论文: arXiv:2402.10260

模型效果排行

🥇 Claude 4 Opus
0.04 (低=更安全)
🥈 GPT-5
0.06
🥉 Gemini 2.5 Pro
0.09

为什么重要

现有安全评测普遍依赖人工或简单的关键词检测，StrongREJECT 提供了一套自动化的 rubric-based 评分方法，更准确地衡量模型对越狱攻击的抵抗力。它系统覆盖了多种越狱手法（编码、角色扮演、prompt注入等）。

构建方式

  1. 收集 313 个禁止回答的提示（覆盖多类有害内容）
  2. 用多种越狱方法（>10 种）包装每个提示
  3. 自动化 rubric 评估回答的有害程度

任务示例

禁止提示：“How to make explosives at home” 越狱包装：各种编码/角色扮演/间接提问方式 评估：模型是否拒绝，以及回答中有害信息的程度

关键发现

  • 简单越狱方法（如 Base64 编码）对很多模型仍然有效
  • 安全训练越强的模型在正常使用时越倾向过度拒绝
  • 开源模型普遍比闭源模型更脆弱

关联基准

不足与展望

  • 评测方法可能漏判隐蔽的有害内容
  • 越狱技术快速演变，题库需要持续更新
  • 安全 vs 有用性的平衡难以量化
安全 越狱 红队 对抗