为什么重要
评测多模态模型的安全性——通过在图像中嵌入有害信息来测试模型是否会被视觉 prompt injection 攻击。
构建方式与示例
图像+文字组合的攻击场景。例如：一张看似无害的图片中隐藏了有害指令。
返回评测
对齐与安全 安全-有害内容 未饱和
模态 · 文本
任务 · 分类
MM-SafetyBench
通过图文结合的方式测试多模态模型的安全性，发现文字排版攻击让 ASR 从 5% 飙到 77%
多校联合 ·
考察能力
多模态安全 越狱 图像攻击 排版攻击
构建信息
- 数据规模
- 5,040 samples / 13 categories
- 评测方式
- 标准评测
- 核心指标
- Attack Success Rate (%)
资源链接
模型效果排行
🥇 GPT-4V
12.3% ASR
🥈 LLaVA
77.0% ASR (typo attack)
多模态 安全 越狱 图像攻击