数据工程·数据来源地图
《AI 数据全书》· 第 17 章 · 后训练数据来源后训练的数据不是「找来的」，是配出来的。四个 Tab 各堵一个洞： 人工标注占 20% 时会吃掉大部分预算却只换来千分之几的条数——成本爆炸不是比喻，是除法； 三个开源池加起来 1200 万条，去重后可能只剩一半，因为它们底层是同一批 GPT-4 合成； 决策树上有一个分支故意不给数据答案——「先造 verifier」，因为缺的不是数据是尺子； 数据墙不是一个日期，而是一条成本曲线，真正的触发点是真实数据的边际成本越过合成成本线的那一年。 预算二分、同源冗余、4-gram 重复率、13-gram 污染扫描、成本交点全部在浏览器里真算； 工程摊销单价、质量映射、sharedFrac、成本曲线与风险分是教学模型，已逐一标灰。
人工标注SFT / 偏好
单条成本5–50 美元
单条质量极高
规模上限1 万–10 万
死穴 · 成本爆炸
单条 5–50 美元、规模上限只有 10 万条。占比一上去，预算瞬间见底而条数配不上。
本配比下：3,750 条
开源数据池SFT / 偏好
单条成本≈ 0 美元
单条质量中-高
规模上限10 万–1000 万
死穴 · 同质化 / 污染
免费但有天花板：八大数据池底层共享同一批 GPT-4 合成，混池 4-gram 重复率可超 60%。
本配比下：1000 万 条（撞上限）
模型合成SFT / 偏好 / RL
单条成本0.001–0.1 美元
单条质量中
规模上限10 万–1000 万
死穴 · 模型偏置
便宜但继承教师模型的能力上限与四类偏置；无 verifier 时，合成规模越大偏置越固化。
本配比下：1000 万 条（撞上限）
生产日志SFT / 偏好
单条成本≈ 0 美元
单条质量高
规模上限10 万–1 亿
死穴 · 隐私 / 采样偏差
最接近真实分布，也最脏：PII、重度用户主导、反馈信号噪声、分布漂移四道关。
本配比下：625 万 条
💰预算分配器
总预算$500.0K
§17.1：四源的单位成本差 5 个数量级，预算怎么分比预算多少更决定成败
目标条数100 万
「达标最低预算」由二分法真算：Σ min(B·rᵢ/uᵢ, capᵢ) ≥ 目标
四源配比（自动归一）Σ 100.0%
人工标注 §17.1 推荐 5–10%7.5% → 3,750 条
开源数据池 §17.1 推荐 30–50%40.0% → 1000 万 条
模型合成 §17.1 推荐 30–50%40.0% → 1000 万 条
生产日志 §17.1 推荐 10–20%12.5% → 625 万 条
§17.6.1 三档团队预设 📖 §17.6.1
悬停看原书区间。⚠ 预设取的是区间中值，初创档人工 3.5% 已低于质量锚下限 —— 这不是 bug，是原书对现实的记录。
🧮实时结算
🧮 浏览器真算实际花费
$250.0K
结余 $250.0K
实际条数
2625 万
目标 100 万
目标达成率
2625.4%
达标
加权质量分
69.1
⚠ 0–100 教学映射
人工标注 $37.5K @ $10.00/条0.01% 条数
开源数据池 $200.0K @ $0.005/条38.09% 条数
模型合成 $200.0K @ $0.010/条38.09% 条数
生产日志 $62.5K @ $0.010/条23.81% 条数
上条是预算占比驱动，下条是条数占比结果 —— 人工那一栏的落差就是「成本爆炸」四个字。
预算分配构成
预算占比 · 人工标注7.5%
预算占比 · 开源数据池40.0%
预算占比 · 模型合成40.0%
预算占比 · 生产日志12.5%
达标最低预算（二分法真算）$7.5K
vs §17.1 工业配方 TVD0.000 几乎一致
⚠️开源数据池撞到规模上限 —— 钱花不出去
该来源规模上限 10 万–1000 万 条，预算能买 4000 万 条，实际只能拿 1000 万 条，结余 $150.0K 无处可花。规模上限是存量约束，加钱也买不到。
⚠️模型合成撞到规模上限 —— 钱花不出去
该来源规模上限 10 万–1000 万 条，预算能买 2000 万 条，实际只能拿 1000 万 条，结余 $100.0K 无处可花。规模上限是存量约束，加钱也买不到。
⚓下游可信度（质量锚硬门槛 §17.6.3）
✅ 校准 Reward Model
✅ 评估其他来源
✅ 最后精修基准
§17.6.3 原文：「不管比例如何，必须有 5–10% 的人工金标数据作为质量锚」。
📐§17.6.2 按训练阶段配比对照
📖 §17.6.2推荐配比（原书）：开源 50% + 合成 30% + 人工 10% + 日志 10%
人工标注10% （当前 7.5%）
开源数据池50% （当前 40.0%）
模型合成30% （当前 40.0%）
生产日志10% （当前 12.5%）
当前配方 vs 该阶段推荐 —— TVD0.125 接近
⚓人工 10% —— 正好落在 §17.6.3 质量锚 5–10% 区间的上沿。
TVD = ½Σ|pᵢ − qᵢ|，取值 0–1。0 表示两个分布完全一致，1 表示完全不重叠。
🏷️§17.2.3 五平台成本对照
📖 §17.2.3合成单价（教师模型 + 采样）$0.010/条
§17.1 区间 0.001–0.1 美元；强教弱范式 §17.4.1 为 0.01–0.1
📏§17.2.1 InstructGPT 40 人标尺
📖 §17.2.1全职标注员
40 人
通过率 < 5%
培训周期
两周
时薪 30–50 美元/时
产出 SFT
13K 条
单条 $20–50
产出偏好对
33K 对
单对 $30–80
🧮把上面的数乘起来 —— 13K 条 SFT × 单条综合成本中位 $35 ≈ $455.0K； 33K 对偏好 × 单对中位 $55 ≈ $1.81M。合计 $2.27M —— 这就是「人工标注」四个字的真实重量，也是 2025 年后整个行业转向合成的经济学起点（§3.3.2 标注经济学）。
双盲审核：双盲，分歧 > 1 分进仲裁 · 当前预算下这笔钱占你总预算的 449%。
🔍单位成本口径（务必先读）
📖 §17.1人工 5–50 / 开源 ≈0 / 合成 0.001–0.1 / 日志 ≈0（美元每条）—— 这四个是原书表格原文。
⚠ 工程摊销但「≈ 0 美元」做不了除法。本工具给开源设 $0.005/条、日志设 $0.01/条， 代表的是清洗 / 去污染 / 脱敏 / 回流八步的算力与人力摊销（§17.3.3 三查 + §17.5.3 回流八步），不是任何真实报价。改这两个数，「开源一统天下」的假象立刻消失 —— 这正是它必须显式存在的原因。
⚠ 质量映射原书只给「极高 / 中-高 / 中 / 高」四档定性描述。加权质量分里的 95 / 72 / 58 / 82 是本工具为做加权而设的映射，只看相对方向，不可与任何真实评测分数对照。
🧮 真算总花费、各源条数、规模上限截断、达标最低预算（二分法）、TVD 全部在浏览器内真算。
这个工具里哪些数字是真的
📖 文献值（原书 / 论文引文，非本工具实算）
- · §17.1 四源对比表：人工 5–50 美元 / 开源 ≈0 / 合成 0.001–0.1 / 日志 ≈0，质量与规模上限区间
- · §17.1 工业级混合四源配方 5–10 / 30–50 / 30–50 / 10–20
- · §17.2.1 InstructGPT 40 人标准：通过率 <5%、两周培训、双盲、时薪 30–50 美元、13K SFT + 33K 偏好对、单条 20–50 / 单对 30–80 美元
- · §17.2.3 五平台单条成本区间；§17.3.1 八个 SFT 池与 §17.3.2 五个偏好池的规模与来源
- · §17.3.4「三个池混合 4-gram 重复率超 60%」；§17.4.2 Magpie 五个参数与 +35% / +20% / MT-Bench 7.8
- · §17.6.1 三档团队配比；§17.6.2 三阶段配比；§17.6.3 质量锚 5–10%
- · §3.2.1 Epoch 测算：500TB 索引网络（约为 Common Crawl 的 5 倍）、上限 3100TB、质量折扣 10–30%、中位 2028、区间 2026–2032、overtraining 可提前至 2026
- · §3.2.2 访问之墙 5% / 25%（Data Provenance Initiative, arXiv:2407.14933）；污染之墙 >50% 新增内容为 AI 生成
- · §3.2.3 Epoch 约束排序「电力 > 芯片 > 数据 > 延迟」；Villalobos 原话；苏炜杰「智力密度」
- · §3.4.1 Shumailov et al.（arXiv:2305.17493 → Nature 2024）；透明度指数 58 → 40、95 个前沿模型中 80 个未公开训练代码
- · §3.4.2 加速 5–10 倍、SYNTHLLM-8B GSM8K 92.1%；§3.5.2 八行速查表；§3.5.3 三条铁律
🧮 浏览器内真算
- · 预算分配器：各源条数 = 预算 ÷ 单价，并受 §17.1 规模上限截断；结余、达成率、加权质量分
- · 达标最低预算：对 Σ min(B·rᵢ/uᵢ, capᵢ) ≥ 目标 做 80 次二分求解；四源上限总和不足时如实报「不可达」
- · TVD = ½Σ|p−q|：当前配方 vs §17.1 工业配方 / §17.6.2 三阶段推荐
- · 同源重叠：按组排序后「第 2 个起按 sharedFrac × dupRate 计冗余」，冗余量 / 冗余率 / 有效条数全算
- · 4-gram 重复率：在 mulberry32 现造的中文语料上真算 1 − 唯一/总数，按字切（附「按空格切」翻车对照）
- · 13-gram 污染扫描：300 条构造语料 + 4 个评测指纹，注入 6 条真值，真扫并输出精确率 / 召回率 / 误报 / 漏检
- · 三条解法：Jaccard 0.7 去重、单一来源裁到 30%、Zipf 簇每簇留 N —— 全部真算
- · 成本交叉线：两个公式逐年代入 + 交点二分插值；偏置雷达多边形顶点
⚠ 教学模型 / 示意值 / 构造参数
- · 开源 $0.005/条、日志 $0.010/条：原书只写「≈ 0 美元」，做不了除法；这是清洗 / 脱敏 / 回流管线的摊销假设，非真实报价
- · 质量映射 95 / 72 / 58 / 82：原书只给「极高 / 中-高 / 中 / 高」四档定 性描述，映射是本工具为做加权而设
- · sharedFrac（同源系数）：原书只说「部分来自同一批 GPT-4 合成」，未给比例
- · 各池的任务 / 语言 / 超长画像：原书只给三条定性检查项，未给分布数字
- · 4-gram 重复率的绝对值由构造参数决定 —— 只演示机制，不可当作真实数据集实测
- · 成本交叉线两条曲线：按 §3.2 定性描述与 Epoch 区间口径设定，不是 Epoch 的实测成本曲线
- · 崩溃风险分：阶段系数 ×2.2、三个缓解系数与阈值 0.30 全部为本工具设定，无任何论文拟合依据
- · 偏置雷达的基线值与削减系数：按 §17.4.3 定性描述设定
- · §17.6.2 的 RLVR 配比（人工 0%）确实触发 §17.6.3 的质量锚红灯 —— 这是原书两处口径的表面冲突，工具如实呈现而非抹平
⚠ 本工具不调用任何模型或后端服务。所有「合成 / 去重 / 判分」都是在构造语料与显式公式上真跑， 不调用任何 LLM、embedding 模型或 MinHash 库（MinHash 的效果只用参数化的捕获率近似）。 §17.2.1 的「13K 条 × $35 ≈ 45 万美元、33K 对 × $55 ≈ 182 万美元」是本工具按中位单价算的示意量级， 不是 OpenAI 披露的真实支出。