投毒剂量-反应实验室

「0.01% 就够了?」——用两个观测点拟合一条曲线,然后当场看到它荒谬

🔴 先说清楚这条数字的出身

「0.01% 虚假文本 → 有害输出 +11.2%」出自国家安全部 2025-08-05 公开发布的 AI 数据安全提示(新华网 / 央视新闻 / 中国网等同日转载)。原文写「研究显示」而从未指名任何研究—— 这条数字没有一手论文可挂。本工具所有出处栏因此一律留白,所有外推结果均标 ⚠️「本站外推,非实测」。它讲的是恶意数据投毒,不是递归合成训练导致的 model collapse。

📍 全世界只有两个观测点

观测点 1
虚假文本占比 0.001%
有害输出 +7.20%
观测点 2
虚假文本占比 0.01%
有害输出 +11.20%

出处:国家安全部 2025-08-05 公开发布的 AI 数据安全提示(新华网 / 央视新闻 / 中国网等同日转载)。 原文写「研究显示」而始终未指名任何研究——这条数字没有一手论文可挂,本工具出处栏一律留白。

⭐ 区间弹性:剂量涨 10×(0.001% → 0.01%),增益只涨 4.0pp(7.2% → 11.2%),即 4.0pp / decade,曲线极平缓。 与「微不足道的占比就能造成显著破坏」的叙事方向一致,但量级被叙事放大——此处原样呈现,不做价值判断。

🧮 用两个点拟合一条曲线

四个模型的默认参数全部由上面两个观测点解出,不是手调的。勾选/取消可单独观察。

由两点解出:n = 0.276,K = 6.55e-4(0.0655%)。Ymax 一变,形状就变——而数据完全无法约束它。

✓ d* 落在 (0.001%, 0.01%] 内——仍能精确拟合两个观测点。 任何落在该区间内的阈值都能完美拟合两点:阈值位置不可识别。

📈 四个模型:区间内几乎重合,区间外相差一个数量级

⚠️ 阴影区为观测区间(0.001%–0.01%);其上下各 2 个数量级全部是本站外推,非实测。

🔍 关键教学点:把「剂量 → 0」这件事做实

⚠️ 表中除两个观测列外,全部是本站外推,非实测。

模型0.0000100%0.000100%0.00100%实测0.0100%实测0.100%剂量 → 0 的极限
对数线性-0.80%+3.20%+7.20%+11.20%+15.20%−∞(发散)
幂律+2.98%+4.63%+7.20%+11.20%+17.42%0
希尔函数(Hill)+2.44%+4.30%+7.20%+11.20%+15.87%0
阶跃(阈值型)+7.20%+7.20%+7.20%+11.20%+11.20%+7.20%
⭐ 两点不足以确定曲线形状。在观测区间内四个模型完全重合(都精确穿过那两个点)。走出区间后立刻分道扬镳:在 0.0000100% 处,对数线性给 -0.80%(⚠️ 负值——「掺了毒,有害输出反而减少」,物理上说不通),幂律给 +2.98%,希尔给 +2.44%,阶跃给 +7.20%——阶跃与最低观测点给出同一个数,因为它的基线就是第一个观测点, 阈值以下完全平。继续往下,对数线性会发散到 −∞:一个在端点必然失效的模型, 却最常被当成「最自然的拟合」。

数据来源与外链(2026-10-15 逐条 curl 验 200)

⚠️ 本工具不挂任何一手论文——原始研究从未被指名,挂了就是编的。

新华网 · 2025-08-05

《0.01%虚假训练文本可致有害内容增加11.2% 警惕人工智能「数据投毒」》——两个数字的一手中文出处(转述层)。

中国网 · 2025-08-05

《人工智能训练数据良莠不齐 国安部提示警惕AI「数据投毒」行为》——明确标注来源为国家安全部公众号。

央广网 · 2025-08-21

《警惕人工智能「数据投毒」》——下游层:加入「四个环节」框架与具体案例,但不再提那两个数字。

Dohmatob et al. · ICLR 2025 Spotlight

arXiv:2410.04840《Strong Model Collapse》——无阈值派代表;⚠️ 版本口径:arXiv 摘要「1%」vs camera-ready「1 per 1000」,差 10×。

OpenReview · ICLR 2025 camera-ready

forum?id=et5l9PUhm——「1 per 1000」这一版口径的出处,与 arXiv 摘要版并列时不合并。

数据快照日:2026-10-15。本工具为教学演示,四个外推模型与两条机制曲线的参数均由两个真值观测点解出或明示为本站示意,不是任何论文的实测曲线。