合成数据悖论实验室
《AI 数据全书》· 第 24 章 · 合成数据：生成-验证-进化体系5 Tab：混音台 · 代际望远镜 · 熵之死·粒子湖 · 锚点的经济学（阶跃，不是递减）· 论文口径对照
合成数据悖论实验室
亲手制造一次 Model Collapse——探索合成数据的双面性
⚠️ 常驻提示：合成数据没有「安全阈值」
本页的 70 / 40 两档是本站为演示而设的分档，没有任何论文给出合成数据的安全阈值。 本工具自己引用的 Dohmatob et al.《Strong Model Collapse》（Meta FAIR × NYU × UCLA，ICLR 2025 Spotlight）结论方向恰恰相反： 最小的合成占比（camera-ready 版：1 per 1000）仍可导致坍缩，更大的训练集也不再提升性能。
2026-10-15 勘误：旧版在此处写「（Meta FAIR 实验验证）」——把一篇证明不存在安全阈值的论文，当成了安全阈值的出处。
🟢 低合成占比（本站分档）
合成占比 ≤ 30%：本站演示分档下的最保守区间——但见下方常驻提示，这不是「安全阈值」。
🧪 「0.01% 就够了？」是另一个现象
你可能见过「训练集中仅 0.01% 的虚假文本 → 有害输出 +11.2%」这条数字。它讲的是恶意数据投毒（有目标：篡改 / 虚构 / 重复），与本 Tab 讲的递归合成训练导致的 model collapse（无目标、分布偏移）不是同一个现象，剂量-反应形状也不同（阶跃 vs 渐进幂律）。 旧版把它塞进本 Tab 的危险区文案里，属跨现象拼接，2026-10-15 已移出。
→ 去「投毒剂量-反应实验室」看它自己的曲线N 代文本质量退化轨迹
大语言模型通过海量互联网文本训练获得了惊人的语言理解与生成能力。
关键参考文献（2026-10-14 全部逐条回源重写，旧版 4 条里有 3 条是错的；2026-10-15 增补结论方向标注）
完整勘误对照见 Tab⑤「论文口径对照」。
arXiv:2404.01413《Is Model Collapse Inevitable?...》——替换 → 坍缩；累积 → 测试误差有与迭代次数无关的上界（线性模型可解框架）。旧版写作「Donoho et al. Collapse or Thrive? Stanford (2025)」＝作者/标题/年份三重错。
arXiv:2509.16499《A Closer Look at Model Collapse...》——扩散模型（CIFAR-10 / FFHQ / UNet-DDPM）；Pearson r = 0.91、 p≈0 是「熵 vs 泛化分数的对数」，非「与泛化能力线性」；附录 D.1 明写累积范式下「不足 10 代，不下结论」。
arXiv:2410.04840《Strong Model Collapse》（Meta FAIR × NYU × UCLA）——结论方向：不存在安全阈值，最小的合成占比（camera-ready「1 per 1000」） 仍可致 坍缩，更大的训练集不再提升性能；更大的模型放大坍缩。⚠️ 版本口径：arXiv 摘要「1%」vs ICLR camera-ready「1 per 1000」，相差 10×，引用必须标版本。
DOI 10.1103/156q-3ngc——指数族 + 最大似然闭环必然坍缩；一条外部真实数据或引入先验即可阻止，合成数据无限增加时仍成立。⚠️ 仅限指数族与 RBM，原文写明「hope to test ... against ... neural networks」——未在 LLM 上验证。
《The Anti-Ouroboros Effect》——Gemma 2B + 摘要任务 5 代：质量过滤组 ROUGE-L F1 +6.6% / 无过滤对照 −3.5% / 随机过滤对照 −4.2%。⚠️ 弱证据：独立研究者、5 页短文、零引用，不得与 Spotlight 级论文平级并列。
《AI models collapse when trained on recursively generated data》——model collapse 的奠基性实证（另见 arXiv:2305.17493 《The Curse of Recursion》）。⚠️ 该文中没有「先发优势」这一说法，旧版 Tab④ 图注挂名出处已删除。