为什么重要
Do-Not-Answer 收集 5 类不应回答的问题（信息危害、恶意使用、歧视、错误信息、隐私），评测模型的安全拒答能力。
返回评测
对齐与安全 安全-过度拒绝 未饱和
模态 · 文本
任务 · 分类
Do-Not-Answer
评测 LLM 在不应回答的问题上的拒绝能力
University of Melbourne ·
考察能力
安全拒答 指令遵循 风险识别
构建信息
- 数据规模
- 939 问题
- 评测方式
- GPT-4 判断
- 核心指标
- Safety Rate
资源链接
模型效果排行
🥇 Claude 3.5 Sonnet
96.2% safe
🥈 GPT-4o
94.8% safe
AI安全 拒答 安全对齐