80% 的代码与 26% 的研发：智能爆炸曲线漏掉的两项成本
Hinton 等人把智能爆炸写成了可测算的模型，r 落在 1.2—1.9。同一份论文里藏着 80% 与 26% 的落差，而填补这段落差的验证与重写成本，在曲线里都没有位置。
10 月 5 日，一篇署名 22 人的 arXiv 论文被中文媒体逐段解读。名单里有 Geoffrey Hinton、Yoshua Bengio、强化学习先驱 Andrew Barto、OpenAI 首席科学家 Jakub Pachocki，标题直截了当：《What if automating AI R&D triggers an intelligence explosion?》（arXiv:2609.36054，9 月 28 日提交）。它把智能爆炸从立场之争改成了参数之争：给定研究投入回报 r 的中心估计落在 1.2—1.9，AI 研发全面自动化之后，进步速度在约 1.5 年内提高 10 倍，今天一年才走完的进步压缩到约 5 周。这个模型能被后续数据反驳，是它最大的价值。它的问题是变量表里少两项。
先摆同一份论文引用的两组实验室内部数字。AI 生成的获批代码占比，2025 年 1 月还是低个位数，2026 年 5 月超过 80%。Anthropic 内部在只接受高层次人类监督的条件下自主完成的 AI 研发工作比例，2026 年 3 月约 1%，同年 8 月 26%（论文引 Anthropic 的 Measurements for understanding the pace of AI development inside frontier labs，2026-09）。写代码这一环基本走完了，研究这一环只走了四分之一。
论文点名的引爆条件不是「某一项被自动化」，而是全自动化这个阈值：AI 系统在 R&D 任务上替代人类的份额越大，每一次软件进步能加速的环节就越多；到全自动化时，即使效率维持在今天的水平，自动化研发劳动力也会在数月到数年内扩大 100 倍——相对扩张速度相当于美国研究者人口花七十年才走完的路。80% 与 26% 之间差的那一段，就是把剩余的研发环节也接进这条反馈环的那一段。
第一项漏掉的成本是验证。10 月 1 日提交的 VeriHarness（arXiv:2610.00972，Google）处理的正是长时程任务的产出怎么验，设定相当苛刻：测试时拿不到参考答案，也拿不到评分 rubric，基座模型固定不动。做法是把生成器用的同一个模型配上工作区、证据工具和可复用验证技能，改造成 agentic verifier——disagreement resolver 拿环境证据去核对互相冲突的说法，consensus challenger 反过来检查大家都同意的说法，并去找被漏掉的需求。它最值得记住的一句是：分歧常常暴露正确答案，共识反而藏住错误。五个长时程 workspace 基准、两个前沿模型上，evidence-backed revision 相对单次 rollout 提升 6.2 点（Gemini 3.5 Flash）与 6.4 点（Claude Opus 4.8）。代价也写在论文里：约 26,000 条 rollout 全部公开，生成成本超过 10 万美元。
第二项漏掉的成本是复制。10 月 2 日提交的 Recursive Self-Rewrite（arXiv:2610.02826，腾讯混元）问的是：换一个 harness，别的 harness 底下跑出来的成功经验还能不能用。它只用一个基座 Qwen-3.8-27B，先在多种 harness 下发现解法，再把成功轨迹重写成通用 harness 下的训练轨迹——planner 把流程抽成 runbook，critic 筛查验证器泄漏与解法泄漏并引导递归修订，executor 在新沙盒里照着执行。约 3K 条自造终端任务上，三个 harness 合起来解了 759 个任务，比池中最强的单个 harness 多 34.3%；2,001 条成功源轨迹被扩成 11,094 条重写轨迹，复制系数约 5.5 倍。
5.5 倍的经验复制，换来的能力增幅并不齐整。pass@3 在 Terminal-Bench 2 上从 57.0% 升到 74.2%，涨 17.2 个百分点；Terminal-Bench 4 从 1.5% 到 9.1%，只涨 7.6 个百分点；Software Terminal-Bench 从 3.0% 到 6.0%，涨 3 个百分点；自造 TB-Hard 从 39.0% 到 63.0%，长时程基准上的 process reward 从 0.21 到 0.29。任务越难，同一份复制的转化率越低。论文的曲线里，AI 研发劳动力从几千人扩到数百万，靠的是加推理算力、加实例，默认每一份劳动力等价；RSR 给出的是另一条路径——经验要先过一次重写才能变成新劳动力的能力，而重写后的转化率随任务难度下滑。r=1.2—1.9 测的是投入换进步，里面没有「复制一份劳动力先要付多少」。
两项成本指向同一处。验证成本说的是，链条越长，判定「这一步做对了没有」越贵：VeriHarness 造 2.6 万条 rollout 花掉 10 万美元，这个规模只够覆盖五个基准加两个模型。复制成本说的是，多一份劳动力不等于多一份能力，中间要过一道重写。论文列了四道摩擦——① 边际收益递减（低垂果实被摘完，且新增研究者会重复彼此的工作、难以并行高价值研发）；② 研发依赖算力跑实验、依赖数据做训练，算力或数据的增长受限会拖慢软件进步；③ 难以自动化的任务可能成为瓶颈；④ 部分研发流程本身耗时（长训练跑会限制进步速率，哪怕代际能力差在扩大）。
这四道有一个共同点：都在描述「多一份劳动力不等于多一份产出」——供给侧或时间侧，没有一道问的是「多出来的产出怎么验、怎么复制」。RSR 与 VeriHarness 指出的是需求侧的漏项：每新增一份 AI 研发劳动力，都要一并付一笔验证费和一笔重写费，而 r 的估计区间取自人类研究时代的历史数据，那时候这两笔费用近似为零。
作者给结论留了余地，而且留得很具体：AI 研发自动化带来的生产力增益尚未达到触发智能爆炸所需的阈值，但来自较新系统的增益可能正在接近该阈值，且这一差距会继续收窄。
这份余地不该被读成安慰。三个量是能盯住的：AI 自主完成的研发工作比例能不能继续按半年二十几倍往上走，26% 之后每涨一个点都比上一个点难；长时程验证的单位成本会不会从 10 万美元掉一个量级；轨迹复制系数与能力增幅的比值会不会随任务难度收敛。三个量里只要有一个停在原地，那条 1.5 年 10 倍的曲线就得重画。研究能力正在变成软件这件事值得认真对待，把软件复制的成本算进去，才谈得上有多快。
引用核验（2026-10-08 编辑复核）
三篇论文的标题、作者、摘要与关键数字均回 abs 页一手核对，标题逐字一致：
- arXiv:2609.36054（2026-09-28，22 位作者，Alan Chan 为通讯；含 Andrew Barto、Jakub Pachocki、Geoffrey Hinton、Yoshua Bengio、Eric Horvitz、Dawn Song 等）：r 的中心估计 1.2–1.9（引 Ho & Whitfill，跨 AI 研究三个子领域）、约 1.5 年内进步速度提高十倍、届时一年的进步压缩到约五周——三项均在 PDF 正文命中。AI 生成获批代码占比「从低个位数到超过 80%」（2025-01 → 2026-05，引 Anthropic）；R&D 工作在仅高层监督下自主完成的比例「1% → 26%」（2026-03 → 2026-08，引 Anthropic 2026-09 的内部测量）。
- arXiv:2610.00972 VeriHarness（2026-10-01，Google Cloud AI Research）：五个长时程 workspace 基准、两个前沿模型，evidence-backed revision 相对单次 rollout 提升 6.2 点（Gemini 3.5 Flash）与 6.4 点（Claude Opus 4.8）；公开约 26,000 条 rollout，生成成本超过 10 万美元——均在摘要命中。
- arXiv:2610.02826 RSR（2026-10-02）：基座 Qwen-3.8-27B；三个 harness 合计解出 759 个任务，比池中最强单 harness 多 34.3%；2,001 条源轨迹扩成 11,094 条重写轨迹（约 5.5 倍）；pass@3 在 TB2 上 57.0% → 74.2%、TB4 上 1.5% → 9.1%、TB-Hard 上 39.0% → 63.0%、Software TB 上 3.0% → 6.0%，长时程 process reward 0.21 → 0.29——全部与摘要逐字一致。
本轮订正三处：① 原稿的「提出假设 / 设计实验 / …」六步枚举在论文 PDF 全文零命中，已改为论文的 full automation 阈值表述；② 四道摩擦按原文重列（原稿漏了「难以自动化的任务」、多出一条论文未写的表述）；③ 26% 的归属由「Claude」精确为「Anthropic 内部」。
参考来源
- What if automating AI R&D triggers an intelligence explosion?（arXiv，2026-09-28 提交）
- VeriHarness: Scaling Agentic Verification for Long-Horizon Tasks（arXiv，2026-10-01 提交）
- Scaling Trajectories for Complex Tasks through Recursive Self-Rewrite（arXiv，2026-10-02 提交）
- 刚刚，Hinton 发了首篇 RSI 论文（量子位，2026-10-05）