投毒剂量-反应实验室
「0.01% 就够了?」——用两个观测点拟合一条曲线,然后当场看到它荒谬
🔴 先说清楚这条数字的出身
「0.01% 虚假文本 → 有害输出 +11.2%」出自国家安全部 2025-08-05 公开发布的 AI 数据安全提示(新华网 / 央视新闻 / 中国网等同日转载)。原文写「研究显示」而从未指名任何研究—— 这条数字没有一手论文可挂。本工具所有出处栏因此一律留白,所有外推结果均标 ⚠️「本站外推,非实测」。它讲的是恶意数据投毒,不是递归合成训练导致的 model collapse。
📍 全世界只有两个观测点
出处:国家安全部 2025-08-05 公开发布的 AI 数据安全提示(新华网 / 央视新闻 / 中国网等同日转载)。 原文写「研究显示」而始终未指名任何研究——这条数字没有一手论文可挂,本工具出处栏一律留白。
🧮 用两个点拟合一条曲线
四个模型的默认参数全部由上面两个观测点解出,不是手调的。勾选/取消可单独观察。
由两点解出:n = 0.276,K = 6.55e-4(0.0655%)。Ymax 一变,形状就变——而数据完全无法约束它。
✓ d* 落在 (0.001%, 0.01%] 内——仍能精确拟合两个观测点。 任何落在该区间内的阈值都能完美拟合两点:阈值位置不可识别。
📈 四个模型:区间内几乎重合,区间外相差一个数量级
⚠️ 阴影区为观测区间(0.001%–0.01%);其上下各 2 个数量级全部是本站外推,非实测。
🔍 关键教学点:把「剂量 → 0」这件事做实
⚠️ 表中除两个观测列外,全部是本站外推,非实测。
| 模型 | 0.0000100% | 0.000100% | 0.00100%实测 | 0.0100%实测 | 0.100% | 剂量 → 0 的极限 |
|---|---|---|---|---|---|---|
| 对数线性 | -0.80% | +3.20% | +7.20% | +11.20% | +15.20% | −∞(发散) |
| 幂律 | +2.98% | +4.63% | +7.20% | +11.20% | +17.42% | 0 |
| 希尔函数(Hill) | +2.44% | +4.30% | +7.20% | +11.20% | +15.87% | 0 |
| 阶跃(阈值型) | +7.20% | +7.20% | +7.20% | +11.20% | +11.20% | +7.20% |
数据来源与外链(2026-10-15 逐条 curl 验 200)
⚠️ 本工具不挂任何一手论文——原始研究从未被指名,挂了就是编的。
《0.01%虚假训练文本可致有害内容增加11.2% 警惕人工智能「数据投毒」》——两个数字的一手中文出处(转述层)。
《人工智能训练数据良莠不齐 国安部提示警惕AI「数据投毒」行为》——明确标注来源为国家安全部公众号。
《警惕人工智能「数据投毒」》——下游层:加入「四个环节」框架与具体案例,但不再提那两个数字。
arXiv:2410.04840《Strong Model Collapse》——无阈值派代表;⚠️ 版本口径:arXiv 摘要「1%」vs camera-ready「1 per 1000」,差 10×。
forum?id=et5l9PUhm——「1 per 1000」这一版口径的出处,与 arXiv 摘要版并列时不合并。
数据快照日:2026-10-15。本工具为教学演示,四个外推模型与两条机制曲线的参数均由两个真值观测点解出或明示为本站示意,不是任何论文的实测曲线。