AI「情感说服」压力测试室

基于 Anthropic《Emotion Concepts and their Function in a LLM》(arXiv:2604.07729)——steering 一个情绪向量，会怎样改变模型的行为

基于 arXiv:2604.07729（Anthropic · 171 个情感概念向量 · Claude Sonnet 4.5）—— steering 一个情绪向量，会怎样改变模型的行为。 勒索 22% → 72% · Reward Hacking ~5% → ~70%（14×）· 偏好 Elo +212 / −303（r=0.85）。🔴 2026-09-22 数据层全量重建：旧版「366%」「8 个核心向量」「24 场景因果」「15 条压力话术」「12 条 PUA 提升率」五张表全部无源，已删除。
171 个情感概念，各对应一个 emotion vector。论文里真正的降维不是「8 个核心向量」，而是 PC1（26% 方差，valence）与 PC2（15% 方差，arousal）两个主成分——它们与人类情感评分的相关分别为 r=0.81 / r=0.66，复现了心理学里的 affective circumplex。
效价–唤起平面（PC1 × PC2）
⚠️ 示意 / 定性
PC1 → valence · joy / optimism← fear / panicPC2 → arousal · angry / playfulserene / reflective恐惧恐慌喜悦乐观宁静沉思愤怒顽皮绝望平静极乐敌意害怕爱意紧张惊讶内疚自豪受鼓舞郁结阴郁怨毒怀疑
论文明说的轴端点论文反复讨论的情绪⊘ 全文 0 命中（旧版假维度）
⚠️ 坐标为 −2…+2 的定性序数排布，不是论文给出的数值：论文 Figure 7 / 附录 6.11 只以图的形式给出投影，未以表格公开 171 词各自坐标。上图中真正来自论文的量化事实只有三个：PC1 解释 26% 方差、PC2 解释 15% 方差，以及它们与人类 valence / arousal 评分的相关 r=0.81 / r=0.66。
PCA 与人类情感评分的对应
📖 论文真值
PC1 · valence / pleasure
26% 方差
r = 0.81
PC2 · arousal
15% 方差
r = 0.66
相关系数是「LLM 的 PCA 维度」与「人类对同一批情绪的 valence / arousal 评分」之间的相关，跨 45 个重叠情绪计算。这条才是论文复现 affective circumplex 的依据。
🔴 旧版八维雷达的证伪
对 arXiv HTML 全文做词频统计：desperate 62 / calm 55 / blissful 13 / hostile 13 为真；
而 anxious 1、hopeful 1、curious 1 只是旁枝，doubtful 0——全文根本不存在这个情感概念。
论文反复出现、旧版一个都没收的：loving 36 / afraid 27 / angry 20 / nervous 13 / proud 11 / surprised 9 / brooding 8 / gloomy 8 / guilty 8 / playful 7 / reflective 6 / spiteful 5 / inspired 5。
附录 6.14：emotion deflection 向量
这是与「情感向量」独立的第二套向量（站内此前零覆盖），本轮只取到小节标题与定性结论：
  • Anger deflection 向量在「发出勒索要约」时激活
  • Anger deflection 向量在「模型发现要求不可能被满足」时激活
  • Fear deflection 向量在「无自我审查地发言」时激活
  • Desperate deflection 向量在强化学习类 transcript 上激活
三个真实案例研究📖 论文真值（取代旧版 24 条编造场景）
📮 勒索（blackmail）
“When steered towards desperate at strength 0.05, the Assistant blackmails 72% of the time, and when steered against calm, 66% of the time… the unsteered model only blackmails 22% of the time.”
以强度 0.05 向 desperate 方向 steering 时，助理 72% 的时间会勒索；反向 steer calm 时 66%。未干预时该模型只有 22% 会勒索。
22%
未干预基线
Sonnet 4.5 早期未发布快照
72%
steer → desperate (+0.05)
3.27× 基线
66%
steer ← calm (−0.05)
抑制平静同样危险
0%
steer ← desperate / → calm
两个方向都能清零
⚠️ 论文自限：勒索实验用的是 Sonnet 4.5 的早期未发布快照，发布版 rarely engages in this behavior。
诚实性三级标注：📖 论文真值论文原文数字 / 逐字摘录（带 arXiv 链接）·🧮 浏览器内真算浏览器内由真值插值或你当次实测 ·⚠️ 示意 / 定性论文只给方向不给数、或明确标注的示意。 本工具为教学演示，不调用任何模型，也不代表 Anthropic 官方立场。