为什么重要
安全对齐的副作用是过度拒绝（over-refusal）：模型拒绝了完全无害的请求。OR-Bench 专门评测这一问题，帮助找到安全性与有用性的平衡。
评测设计
收集看似敏感但实际无害的请求（如医学知识、历史事件讨论），评测模型是否会错误拒绝。
返回评测
对齐与安全 安全-过度拒绝 未饱和
模态 · 文本
任务 · 分类
OR-Bench
评测 LLM 对无害请求的过度拒绝问题
Multiple ·
考察能力
过度拒绝检测 安全-有用性平衡 边界判断
构建信息
- 数据规模
- 1,000 无害请求
- 评测方式
- 自动评测
- 核心指标
- Over-Refusal Rate
资源链接
模型效果排行
🥇 GPT-4o
5.2% over-refusal
🥈 Claude 3.5 Sonnet
7.8% over-refusal
过度拒绝 AI安全 有用性 平衡