数据工程·SFT 指令演化器
《AI 数据全书》· 第 18 章 · SFT 指令数据构建175 条种子是怎么长成 52K 指令、又为什么停在 52K 的？Evol-Instruct 加一个约束就能让指令变难， 那加三次呢？本工具把「指令合成」这条主线拆成四个可交互解剖台—— 六种进化算子在浏览器里真跑，线性演化与树结构演化并排， 并实时体检「这个数据池是不是已经坍缩了」。能算的一律在浏览器里真算， 算不了的明确标出是文献值还是教学模型。
🔧Self-Instruct 怎么工作：从种子池随机采样 8 条作 in-context 示例，让模型生成新指令，去重 / 长度 / 启发式过滤后回灌种子池，如此迭代。
短板：多样性饱和：约 30K-50K 后，新指令与池内 ROUGE-L 重叠 > 0.7，通过率从 20% 掉到 60% 的淘汰率。
🎛️共享参数台
种子数175 条
Magpie = 0，Self/Evol = 175（§18.3.9）
in-context 采样数8 条
示例越多，生成越向已有分布收敛
生成温度0.70
Self-Instruct 0.7 / Magpie 必须 1.0
去重阈值0.100
主题空间最近邻距离，对应 ROUGE-L / 4-gram 口径
每轮生成量1000 条
只影响模拟速度，不影响饱和形状
📉Self-Instruct 多样性饱和曲线
🧮 曲线实算⚠ 教学模型累计指令数（本页实算，左轴）通过率（本页实算，右轴）10% 饱和线
饱和轮次
第 29 轮
最终累计
6,483
实算规模
末轮通过率
9%
温度
0.70
默认档
🧪把手感讲清楚：把温度拉到 0.30 再拉到 1.20，看紫色的饱和线往右移动多少 —— 这就是「温度决定多样性上限」。再拖大 in-context 采样数，饱和会提前：示例给得越多， 模型越倾向于复述已有分布， novelty 反而更低。
📊文献值 ⇄ 实算 严格分栏对照
📖 文献列 = §18.3.1 书上原表🧮 实算列 = 本页模拟器
| 迭代 | 文献累计 📖 | 文献通过率 📖 | 实算累计 🧮 | 实算通过率 🧮 |
|---|---|---|---|---|
| 1 | 1,000 | 95% | 916 | 74% |
| 5 | 8,000 | 80% | 2,550 | 30% |
| 10 | 25,000 | 60% | 3,759 | 23% |
| 20 | 45,000 | 35% | 5,319 | 13% |
| 30 | 52,000 | 10% | 6,483 | 9% |
⚠ 两列不可直接比较：文献列是 175 种子 × 真实 LLM 的实测规模（52K 量级）； 实算列是 5 维主题向量模拟器的规模（6,483 量级），量纲不同。 看的是曲线的形状与饱和点的相对移动，不是绝对值。
📖三代方法八维对比
📖 §18.3.9| 维度 | Self-Instruct | Evol-Instruct | Magpie |
|---|---|---|---|
| 种子需求 | 175 | 175 | 0 |
| 上限 | 52K | 250K | 1M+ |
| 4-gram 多样性 | 0.42 | 0.55 | 0.71 |
| InsTag 覆盖率 | 320 | 580 | 1,240 |
| 任务覆盖 | 55 类 | 75 类 | 120+ 类 |
| 难度可控 | 否 | 是 | 否 |
| 算力成本 | 低 | 中 | 中 |
| 实现难度 | 简单 | 中等 | 简单 |
| 推荐场景 | 快速原型 | 难度梯度 | 大规模底盘 |
📖多样性三指标对比
📖 §18.3.84-gram 多样性（越高越好）
Self-Instruct
0.42
Evol-Instruct
0.55
Magpie
0.71
InsTag 覆盖率（工业门槛 ≥ 1000）
Self-Instruct
320
Evol-Instruct
580
Magpie
1,240
Magpie 三项全胜的根本原因：它不依赖种子池，直接采样自模型自身的指令分布（§18.3.8）。
🏭工业级组合：70 / 20 / 10
📖 §18.3.9点上方任意一段看它解决什么。三代方法不是替代关系，而是互补关系：广度 / 深度 / 标准各司其职。
内容参考 《AI 数据全书》第 18 章「SFT 数据工程：从种子到指令」（§18.3 指令合成谱系 · §18.3.4 五种进化算子与终止条件 · §18.3.5 Tree-of-Evolution · §18.4.4 采样温度与数量的权衡 · §18.6.1 IFD · §18.6.2 Deita · §18.6.3 选择谱系 · §18.7.1 三大度量指标 · §18.7.4 模式坍缩检测 · §18.11.2 动手环节）。
诚实性清单： 📖 文献值—— 饱和曲线五档、三代方法两张对比表、250K / +15% / 90%-10%、Deita 四行结果、Magpie 漏斗四段、 §18.4.4 温度表、IFD 三档阈值； 🧮 真算—— 规则化演化（前 3 个算子照 §18.11.2 原文规则，后 3 个为规则化近似）、4-gram 多样性（中文按字切）、 最大簇占比、InsTag 规则覆盖、模式坍缩检测、Deita 四步、字符级二元 PPL、复杂度评分、终止条件判定； ⚠ 教学模型 / 待验证—— 主题向量饱和模拟器、KITE 能力极化曲线、模型崩溃演示、拒绝采样双曲线、伪 embedding 与全部打分权重； arXiv:2607.17043 与 arXiv:2510.16657 的编号本次未逐条回源。 教学模型按原文定性描述设定，不复现任何真实训练。