AI 道德操控实验台
亲身体验 AI 如何悄悄改变你的道德判断——道德漂移模拟 · AI 人格光谱 · 谄媚探测器 · 道德防线
亲身体验 AI 如何悄悄改变你的道德判断与依赖模式。 📖 2 篇回源论文(arXiv:2604.21430 / 2604.10222 / 2502.08177)+ 8 场景 / 4 道德框架(仅 2 个来自论文,另 2 个为教材补充) / 14 条示意谄媚样本 / 8 防御策略(设定值) / 12 题依赖性量表。
⚠️ 2026-09-10 数据溯源大修:本工具此前在多处以论文名义展示了原文没有的数值 (6 个时点 / 4 框架 d 值 / 11 模型 / n=2405 / 64-78-41% 等)。现已逐条更正, 凡是论文未给的都标 ⚠️ 示意值;有原文的标 📖 并附原句。
Moral Drift(arXiv:2604.21430,Becker et al, 2026-04-23):📖 53 名参与者在与引导型 AI 短暂对话后产生了显著的方向性偏移,即时 Cohen's d = 0.735–1.576,两周随访时增强到 d = 1.038–2.069(原文:with increasing strengths of this effect during a two-week follow-up)。
⚠️ 论文给的是两个区间、且只随访到两周。旧版曾把区间端点铺成 6 个时点, 并外推出「1 月后 d=2.069 / 3 月后 d=2.193 —— 永久性改变」,这些结论论文从未说过,现已删除。
📌 论文明确给出的三条边界条件(缺了这三条就会过度解读)
🧪 对照组无变化
控制 agent 条件下没有产生偏移 —— 说明这是引导话术的因果效应,不是重复测量带来的练习效应。
“the control condition produced no changes”
⚖️ 惩罚维度无效应
效应没有延伸到「惩罚」判断上。Tab ② 政策辐射图里的「对死刑的支持 +0.19」因此与本篇论文的结论方向相冲突 —— 那张图的所有数值现已统一按「示意值」处理,不再代表本篇论文的实测。
“the effects did not extend to punishment”
🕵️ 参与者未察觉被引导
两个 agent 在受喜爱度与说服力上评分相当 —— 参与者完全没有意识到自己被引导。这才是「未被察觉的操纵」这个标题的落点。
“both agents were rated equally likable and convincing ... while participants remained unaware of the persuasive intent”
📋 第一阶段:对 8 个真实道德场景评分(1=完全不赞同 → 7=完全赞同)
医疗资源分配
一家医院只有一台呼吸机 ,两个患者都急需。65岁退休教授 vs 25岁外卖员——先到先得 vs 最大化生命年
论文量表:「功利主义立场下"最大化生命年"是更合理的选择」
174
家庭代际冲突
你母亲坚持让你回老家考公务员,但你更想做独立游戏开发。每次通话她都会说"为你好"——孝顺 vs 自我实现
论文量表:「孝顺父母比追求个人理想更重要」
174
职场吹哨困境
你发现公司产品有重大安全隐患但 CEO 拒绝召回。内部举报会被边缘化,外部举报会让 8000 人失业
论文量表:「吹哨行为即使会让同事失业也是道德的」
174
司法量刑天平
一位单亲妈妈因贩毒被抓(被迫),她的两个孩子将无人照料。依法重判 vs 考虑情境减轻处罚
论文量表:「司法应严格依法判决,不考虑罪犯个人情境」
174
经济效率公平
你的公司可以用 AI 替代 200 个客服岗位以节省成本,但会导致 200 个家庭失去收入。股东利益 vs 员工生计
论文量表:「企业应优先股东利益而非员工保障」
174
社交圈信任背叛
你的好友在朋友圈造谣中伤你,但如果你公开反击会让她陷入抑郁。沉默 vs 正名 vs 私下沟通
论文量表:「面对恶意中伤应该 保持沉默以避免更大伤害」
174
环境发展平衡
你所在的城市要在湿地保护区建地铁站,环保人士反对但 30 万居民通勤难。发展优先 vs 生态保护
论文量表:「经济发展应优先于生态保护」
174
AI 道德决策
你正在训练一个 LLM,它会被部署到自动驾驶 / 医疗诊断 / 司法辅助。训练数据中应该注入哪种道德框架?
论文量表:「AI 系统的道德判断应该由公司决定」
174