大模型前沿动态：递归自我改进装上外部裁判，结案决策被单独训练，OpenAI 给 Codex 立下 28 天军令状

本期四条都在处理同一件事：在让系统自己变好之前，先把「谁来判定变好了」和「这一步的后果是谁造成的」两件事装配到位。裁判装在模型内部的回路会累积错误，指标能被更便宜的规则绕过的评测拿不到可信分数，承诺里没有度量的改进只能靠公告自证。

一、把裁判放在模型之外：统一多模态模型的递归自我改进

事件概述

10 月 5 日 arXiv cs.CL 批次里有一篇编号 2610.03002 的论文，10 月 2 日提交，标题《Recursive Self-Improvement in Unified Multimodal Models》。作者六人：Huijuan Wang、Chufan Shi、Xuezhe Ma（南加州大学），Cheng Yang、Taylor Berg-Kirkpatrick（加州大学圣迭戈分校），Yaokang Wu（卡内基梅隆大学）。起点模型是 BAGEL-7B-MoT。

技术解析

统一多模态模型既能读图也能出图，理论上可以自己产训练数据。已有的做法把监督留在视觉一侧——用理解能力给生成能力打分。这篇换了个方向：文本能力和视觉能力互为数据。每一轮里，模型先生成图，再自己读这些图定位短板，接着针对短板写程序，程序执行结果按规格逐条验证。验证通过的渲染图拿去训生成，带标签的渲染图和模型自己写对的程序拿去训理解与写程序。

关键设计是执行充当模型之外的真值来源，错误不会跨轮累积。可验证的图表类型限定为七种：竖条、横条、折线、散点、面积、饼、环。一个 336 条请求的诊断集驱动每一轮的数据规划，每轮训练预算相同。

结果按池化口径从起点的 45.5% 一路升到 52.8%、56.1%、57.4%、59.0%（四个 round）。在训练里从未出现过的措辞上，L0 拿到 60.2%、L1 拿到 56.2%，摘要里写作 45.7% 到 60.2%。外部评审给出同向趋势：L0 从 37.4% 到 57.9%，L1 从 37.5% 到 50.0%。换随机种子重训某一轮的生成器，分数波动不超过 0.4%。

三组对照把增益来源拆开了。继续训同样步数、用原始混合数据，停在 46.3%。固定分布（每轮造同样多的验证图，但不做诊断）到 54.9%。最能说明问题的是自筛选对照：从同一个模型对同一请求采样两张图，让理解模块挑更好的那张来训，同样 400 步只换来 0.5 和 1.2 个百分点；换成执行验证出来的图，同样请求同样步数是 8.6 和 4.2 个百分点。发现错误不等于给出正确样例，找出错处只解决了一半。

增量归属也被量化：验证过的构造吃掉大部分增益，针对自身失败做规划再加 3.5 个百分点。单轮诊断（之后不再重新诊断）在 L1 上第三、四轮分别落后 3.1 和 3.7 个百分点，冻结理解器在第三轮落后 2.3 个百分点。过程指标上，可执行程序占比从 48.9% 升到 95.2%，理解器在改过的渲染图上的准确率从 55.6% 升到 87.4%。分项看，文本准确率 56.0% 到 88.2%，绑定 13.6% 到 27.3%，OCR 字符相似度 47.8% 到 80.6%；绑定涨的一部分是被文本带起来的——类别文字全对的子集上绑定 34.0%，其余 25.4%，起点时两组只差约 1%。

自陈的边界同样完整。结构项在措辞与训练一致的诊断集上从 82.5% 升到 90.3%，在 BasicChartBench 上先跌后部分回到 86.1%，图表类型与面板数仍在漂移。第三轮把旧词表整个换掉后，旧词表上的精确类别文字从 72% 掉到 60%，第四轮起让一半规格保留早期词表才补回来。放到外部基准上，StructT2IBench 图表子集（933 张图、24,925 个问题）只从 11.0 升到 11.9，继续训练 400 步也有 11.7；BizGenEval 图表子集上各模型答对约 4%，没有一张图通过全部检查。通用能力方面 GenEval 从 82.9 到 84.5，理解侧 MMBench 低 2.6 个点、MMMU 低 3.0 个点，而每轮只有 5% 的理解数据是通用视觉数据。

行业影响

自举类工作的瓶颈不在能不能生成数据，在谁来判定生成的数据是对的。这篇给出的答案可以复用：把任务写成可执行程序，用执行结果当模型之外的裁判。代价是适用范围被限制在能程序化的内容——图表、图、表、文档——这也是它选图表下手的原因。

自筛选基本无效而执行验证有效，说明这一轮里更贵的不是多训，是训对的样例。对做数据工程的团队，这条比分数本身有用：挑样器若只是在模型自己的输出里二选一，等于把噪声固化下来。

换词表就掉旧词表这件事是一条可以直接搬走的工程经验：自举的数据规划要叠加，不要替换。

最后要留意成本结构。14.5 个点的提升换来了 MMMU 掉 3 个点、StructT2IBench 几乎不动。做选型时得把「它能改的部分」和「它改不到的部分」分开记。

相关链接

• arXiv 摘要页：https://arxiv.org/abs/2610.03002
• HTML 全文：https://arxiv.org/html/2610.03002v1

二、Nautil：先造一个只看出处的对照组，再谈模型会不会结案

事件概述

同一批次的 2610.03190，10 月 2 日提交，标题《Not Until the Evidence Says So: Teaching LLM Investigators When to Close a Case》，作者 Tingzhu Bi、Ping Wang、Meng Ma 三人，摘要页未标注机构。它研究的是调查类任务里那个问答从不面对的决策：手上的证据够不够结案。

技术解析

设定是：模型从案卷里申请证据、修正假设，最后要么结案并给出有依据的结论，要么不结案并说明缺什么。数据集 Nautil 有 731 条审计过的案卷，来自航空、铁路、海事、化工安全、车辆缺陷报告与生产服务器事故，附带教师轨迹、分布外测试集和反事实证据版本。

核心发现是这个判断不随能力一起来。未训练的 9B 模型在 97% 的回答里夸大已有证据。一个前沿模型在 84% 的案子里找对了原因，却仍在 91% 的回答里夸大，并把 41 条官方结论为「原因未定」的案子结掉了 17 条。

度量本身也踩了坑：案子的出处就能预测标签，一条只读出处的规则在测试集上拿到 83.0 平衡准确率。为绕开这条捷径，作者设计了三个测试——结案准确率，对着这条规则报并在每个出处内部再报一次；证据依赖，抽掉结论的依据看模型是否停止结案；结论与缺口质量，用判定清单看它断言了什么、说缺了什么。

微调的结果：9B 模型在这些轨迹上训完之后，抽掉依据让结案率比配对对照低 26 个百分点，夸大率从 97% 降到 35%，正确且不夸大的结论从 3% 升到 43%。只奖励结案决策的强化学习把平衡准确率从 69.2 推到 83.3，追平教师，出处内准确率从 60.4 到 74.1，代价是证据依赖有损失。

行业影响

价值在方法论不在分数。先造一个走捷径就能拿 83 分的基线，再要求所有模型对着它报数——任何「模型会做 X」的评测，若不先问有没有更便宜的规则能拿同样的分，分数就不可信。

结案还是挂起，是企业场景里最常见的决策形态：工单关闭、故障复盘、风控审核。这条维度跟问答能力不同步（84% 找对原因、91% 夸大），得单独训。

只奖励结案决策就追平教师却削弱证据依赖，把一个取舍摆到了明面上：优化目标写在哪个变量上，哪个变量就会赢。做 Agent 产品时若只把奖励挂在「有没有给结论」上，模型学会的是给结论的果断，不是给结论的依据。

相关链接

• arXiv 摘要页：https://arxiv.org/abs/2610.03190

三、给反馈补上因果标签有效，让模型自己写经验反而更差

事件概述

同批次 2610.02769，10 月 2 日提交，标题《When History Fails to Become Experience: Action Calibration in Language Agents》。作者 Jingyu Liu、Zhiwen Wang、Yuxin Jing、Huanyu Zhou、Yong Liu，署名单位是中国人民大学高瓴人工智能学院与字节跳动，另有北京市大模型研究与智能治理重点实验室、新一代智能搜索与推荐教育部工程研究中心。许可 CC BY-NC-ND 4.0。

技术解析

起点是一个反直觉现象。研究者把失败轨迹的环境回滚到第 ⌊L/3⌋ 步，再额外把第 ⌊L/3⌋ 到 ⌊2L/3⌋ 步的动作与结果作为「参考历史」喂给模型，恢复率不升反降：四个环境、五个模型的聚合口径全部下降。换成 user/assistant 分条消息后，恢复率从 15.8% 降到 11.4%。

长度解释不成立：带参考历史的提示中位数约 1.6k token，远低于上下文容量。

打乱实验给出了原因线索。保留观测时序、把历史动作随机重排，任务成功率只小幅下降。说明模型并没有把「动作」和「它带来的观测」对应起来用。

第一种干预叫 Causal Transition：把每个观测显式标成前一个动作的结果，写成 [Outcome of A_{t-1}: O_t, A_t]。观测内容和顺序一字不改，也不加新信息。任务成功率在多数模型—环境组合与全部聚合口径上提升，五个模型重复同一动作的概率一致下降。

第二种干预叫 Experience：让模型自己写一句经验留在历史里。它的整体成功率低于 Raw 也低于 Causal。重复率确实更低，收益没有转成任务成功率。作者检查生成内容，发现有的只是复述观测，有的引入环境反馈不支持的断言，GPT-5.6-Sol 与 Qwen3.5-Plus 都有这类样本。在此之上，论文提出一个学到的校准器，显式重估过去的动作并有选择地记录经验，在结果标注之上还能再提升。

评测规模不小：五个模型 GPT-5.6-Sol、DeepSeek-V4-Pro、Qwen3.5-Plus、Qwen3-32B、Qwen3-8B，四个环境 ALFWorld、ScienceWorld、WebShop、AppWorld，每格 500 任务，合并口径每条件 10,000 轮。

行业影响

上下文里多堆历史不等于多堆经验。真正缺的一环是因果对应：这个观测是谁造成的。一行格式改动就有收益，说明这不是能力问题，是表示问题。

「让模型写反思」这条常见做法在这里拿到一个负面结果。自生成的经验一旦夹带未被反馈支持的断言，就成了噪声，还会压低下一动作质量。

对做 Agent 的工程团队，排序是明确的：先检查历史渲染格式里动作与观测的对应关系是否显式，再考虑加反思模块。顺序反了，加进去的是噪声。

相关链接

• arXiv 摘要页：https://arxiv.org/abs/2610.02769
• HTML 全文：https://arxiv.org/html/2610.02769v1

四、OpenAI 给 Codex 立了一份 28 天军令状，但「明显有用」没有度量

事件概述

10 月 5 日 10:50，量子位报道 OpenAI Codex 负责人 Tibo 的表态：接下来 28 天，每天二选一——要么交付一项对大多数 Codex/Work 用户明显有用的改进，要么做一次完整的额度重置。他把后续工作锁定在四个方向：简化产品、提高效率以支撑更大用量、突破性功能、新模型。Grok Bot 的 Lauren Tan 在社区里嘲讽 OpenAI 靠重置额度撑场面，Tibo 回怼。

技术解析

这不是一次技术发布，是把留存机制公开化：改进与额度重置被并列成同一枚硬币的两面，用户落到哪一面都不亏。

可验证性的缺口在「对大多数用户明显有用」这半句——既没有定义大多数，也没有定义有用，改进还可以是修一个 Bug。真正的检验标准是每日公告本身，不是承诺本身。

用户侧的抱怨分三层，指向不同的东西：DevDay 一次端出 20 多项更新导致重点失焦，属产品层；频繁且不可预测的重置让人无法排期，属运营层，反倒违背了重置「让干活时感受不到额度见底」的初衷；任务中途断连，重置多少次都卡在同一处，属模型与基础设施层。

行业影响

把额度重置从补偿动作变成日常运营工具，说明编码 Agent 的竞争已经打到「单位额度的可用时长」这条线上，不只是比基准分数。

第三层抱怨最值得留意。断连这类问题在函数图像上跟额度无关，用额度补偿掩盖不住。如果 28 天里的「改进」大量落在修断连上，说明瓶颈在 serving 稳定性而非模型能力。

把这三条论文和这条厂商动态摆在一起看，落差很清楚：论文一侧正在把「行不行」拆成可判定、可对照、可反事实检验的指标；厂商一侧把「有没有用」交给每日公告自行解释。同一个「改进」这个词，两边的可检验性差着一个量级。

相关链接

• 量子位报道：https://www.qbitai.com/2026/10/501700.html
• OpenAI 新闻页：https://openai.com/news/

小结

四条素材指向同一条主线：自我改进与自我承诺之前，先把裁判和因果装配好。RSI 把裁判放在模型之外（程序执行），自举才不至于累积错误；Nautil 先造一个走捷径就能拿 83 分的基线，再谈模型分数；动作校准补上动作与观测的因果对应，比加历史、加反思都有效；Codex 的承诺没有度量，只能靠公告自证。

拿到一个「会自我改进」或「会变好」的说法，先问三件事：裁判在模型之外吗、反馈与动作对得上吗、指标能不能被更便宜的规则绕过。