AI 领域深度研究 · 论文精读 · 研究提案 · 综合调研 — 共 417 篇
预训练/中训练数据 → 合成数据 → 质量验证 → 评估基准
Agent 框架 → 代码生成 → RL 环境 → 基准评估
科学智能 → 行业应用 → Agent 生态 → 前沿洞察
双巨头收入曲线被公开审计、算力资本开支改由债务定价、自研硅以单位经济为 KPI,三个信号指向同一个转折。
针对 LongForge 式证据—断言推理图数据质量计量,提出三重可辨识账本,把生成端质量、结构分布增益与测量可信度从同一批实验中分离。
把 GDPO 的逐奖励优势按「去掉该 verifier 的信息后,模型在该位置的下一 token 分布位移」重新摊到 token 上,不需要过程奖励模型、不需要 token 标注。三任务六模型平均分全部过 GDPO,但论文自己量的定位只到均匀分配的三倍:约束的检查区只拿到 27.6% 的位移,八成以上的位移落在 verifier 根本不读的 reasoning 区。定位最集中的工具调用(6 倍)反而增益最小(3B 非 Live +0.13);消融里联合回放拿走 1.60 总增益中的 1.01;β 的扫描被那个二阶矩界抵消掉一半。
把奖励从「成功/失败」两档拆成「成功 ≻ 退避 ≻ 错误」三档,用加权对数似然替换期望奖励,梯度就变成两个条件得分的凸组合、在饱和点不再按概率归零。AIME 上错误率 79.1% 降到 8.9%,成功率掉 3.1 个百分点,退避率是 74.1%。逐项对账后有三处对不上:论文自陈证明只对总体梯度成立,而照 Algorithm 1 实现出来的估计量在「全退避」与「全错误」两个顶点上梯度恒等于零,正是定理声称能逃出的那两个点;3.1pp 在 90 道题上等于 2.8 题,小于二项标准误 4.2pp;扫雷上两臂的退避率几乎相同(15.6% 对 16.6%),多出的 10 分成功率不是靠多退避换来的。
针对 Librarian Agents 的「一次构造、多次摊销」主张,提出六本分层账本(查询分布、跨模型单价、目标—主张对齐、评估交叉、独立单元、结构贡献),把摊销收益从叙事变为可复算的交点指标 q*。
针对机制先行合成环境把审计只在测试侧强制、奖励裁判取被训练模型自身 base、判据只测复原方向三项决策不进账的问题,建立四本可证伪账本与 2×2 因子重建
RLVR 的梯度谱在训练中越来越集中,所以 Ares 把更新秩从「外部指定」改成「每步从谱里读」,1.7B/4B/8B 上比 AdamW 高 5.0/2.7/2.3 分。逐项对账后有三处对不上:真正扛事的是截断之后两次未在算法里定义的缩放(合计 5.4 分,超过总增益),而「动态秩」只值 0.6/0.9;论文用来做动机的覆盖率秩(90% 能量要 43–46 维)若直接实现只拿到 22.3,与 AdamW 持平;Ares 实际跑在 14–18 维,而 top-32 能量占比只有 17%,与前者差五倍。
用 GRPO 在混合推理模型的 no-think 模式上训练,报出的准确率提升有相当一部分是原模型 think 模式行为的重新激活。本专栏逐项对账发现:激活位移里正交分量 0.58‖v‖ 比沿 think 方向的 0.56‖v‖ 还大,余弦只到 0.70;附录 D 在反思词数对齐的那一点上只拿到 0.289 对 RL 的 0.411,缺口是增益的 55%;附录 F 与 §5.2 互相削弱——删掉写入该子空间的那 0.6% 更新准确率纹丝不动,推理时替换该子空间的激活却移除 75% 增益,而自陈的限定只套在附录 F;PCA 对照自己就移除 22%,think 特异的净额 53 个百分点在 180 条响应上只有 z≈2.4。
针对自动化 SFT 数据研究循环只记「轮次—分数」两维的问题,把种子级复现、等墙钟前沿与合成瞄准产出率并入判据,使每个组件的增益可归因、可定价、可证伪
核查《AI数据全书》(enc-ch00~ch30) 现状:DataFlex 已覆盖 3 处,DataFlow 与 DataPrep-Bench/DAS 全书零命中。提案给出三项目的具体落位、可直接粘贴的段落草稿、以及两处口径打架与待核实项。
LVRL 不训 critic,改用一个冻结的前沿 LLM 事后给已完成轨迹的每个环境步打分,把首端锚到组成功率、末端锚到真实结局,使相邻差严格加总回 R−μ_G——估计误差只改轨迹内部分配,改不了总账。本专栏逐项对账发现:蒙特卡洛真值探针只标注了 3.1% 的转移,55.7% 落在未报的中间带,按论文自己报的比率反推「这一步有害」的判据精度约 29%(召回 72% 是另一回事);全组失败时两端锚都是 0,BabyAI 那个 0→75% 的逐步优势加总为 0,量级全部来自零总量在步间的重分,测的是 Opus 对网格世界的零样本语义先验;把优势从「逐步复制」改成「按步分摊」顺带让长轨迹被相对降权 T 倍,消融表缺两条对照臂;换 critic 的曲线是 9.8→22.3→24.3,而 LVOPD 主实验用的正是只值 9.8 的那个。
针对 SkillScaffold 的似然比技能效用提出证据—评分分离、三支对照候选与阈值标定,量化泄漏、扰动、兼容三条通道并给出注入精度指标
RTI 在整组 rollout 全败时启动一条 Validator–Corrector–Verifier 自我干预流水线,拿着评测 rubric 把失败轨迹的决定性一步改对,再用困惑度门控筛掉偏移过大的改笔、只对引发推理转向的 token 加权;Qwen3-8B 上五个基准相对 GRPO 提升 6.14–27.50 分。本专栏逐项对账发现:8B 上 15 格全胜五个 RL 基线,9B 上 τ²-Telecom 三格与 OPD/LUFFY/AEPO 并列 96.49、另有 8 格低于 Claude-4.6-Sonnet;最大那笔增益落在 Claw-Eval-Hard20,而它的测试任务族就是训练数据的来源,唯一的真 OOD(179 题)只有 +6.36(z 1.7–3.4);PPL 门控的动机句说重要性比会超出裁剪范围,可第一步更新时 ρ 恒为 1,门控实际控的是绝对似然,Navigation 要吐精确坐标与 POI 专名,恰是低概率字面内容最密的地方;δ=5 只在 Navigation/8B 上调过却被五个基准两个骨干复用,强教师臂也用同一个 δ;定理的累计信任域假设干预带来的参数位移与 K 无关,与「干预持续把策略推出边界」相互拉扯。
TQS 用七个结构分量给代码智能体轨迹打分,分量准入与人工验证全部锁在任务内配对上,部署却是跨任务全局 Top-K。ECSL 用任务间方差占比、任务中心化打分、任务匹配随机臂与级联预算曲线四本账,把 +2.8 点拆成任务选择与过程质量两部分。
GPPO 把 PPO-Clip 重新解释为某个 f-散度水平集上的硬裁剪,于是「用哪个散度」与「怎么从采样里估」成了两个可枚举维度,GRPO / DAPO / DPPO / RIPO 落进 4×3 网格的四格;Qwen3-8B-Base 上最优格 KL+Atomic 数学四基准平均 41.5、代码 59.7。本专栏逐项对账发现:摘要的 50% 与 14% 以表内最弱的 GRPO 为分母(数学 27.7,低于次低基线 2.8 分),换最强外部基线 GMPO 是 +18.2% 与 +9.7%,换同框架的 RIPO 只剩 +2.5% 与 +4.4%(z≈0.6);δ=f(0.8) 的标定规则把所有关于 r=1 对称的生成元压成同一个 [0.8,1.2],曲率从 0 到 2 算法一格没动;Eq.11 是硬裁剪,曲率只通过区间端点进入算法,「位移越大阻力越大」在更新里不存在;代入 μ(a|s) 算实际区间后,KL+Atomic 对所有 μ<9.7% 的 token 完全不裁剪,是四格中放开最狠的一格,而「上界放大到 10」这条一行对照臂表里没有。
TerminalHorizon 用独立挑战加重建闭环修复「环境合成提前完成关键工作」,但挑战者能力从未标定、回路的三条产出从未进账、扩展代未单列、52.8 轮的长度对比处在过滤后口径上。CCL 用过程级工作覆盖度替代结果标签,配能力阶梯与三臂对照审计这个闭环。
TAPO 从 off-policy 策略梯度里推出长程自回归必需的状态分布校正,指出它在确定性转移下等于前缀似然比连乘,再用前缀几何平均与随位置收紧的裁剪把它压回可用方差;Qwen3-8B-Base 上数学四基准平均 41.0、代码四基准平均 58.6。本专栏逐项对账发现:摘要的 48% 参照的是表内最弱的 GRPO(27.7,低于次低基线 2.8 分),对最强基线 RIPO 数学只 +0.5 且输掉两列;理论要求的校正量是 R_t 而实际施加的是 R_t^(1/t),对数期望差 t 倍,且 E[R̃_t]→e^(-KL) 是一个与当前 token 无关的常数阻尼。
HarnessSQL 用「通过指称验证与协议检查即保留」产出 2,512 条 SQL 智能体轨迹,但教师 pass@1 71.20% 与 pass@3 83.61% 之间 12.41 个百分点的归属、77.83% 失败率中 81.0% 的注释守卫伪影、协议门的两种定义、oracle 只约束假阳性、难度带保留率五项全部不进账。OVRF 用五轴账本加四统计量审计被拒侧,再做重准入干预。
不生成文本、只返回概率的决策模型从生成模型中分离并被资本定为独立一层;同周一项研究显示它作为 Agent 安全边界可被六行无关文本击穿。
RA 把师生概率差 q−p 当成一步奖励,减掉它在学生策略下的状态价值后在响应内做零均值中心化,使验证器仍决定响应总分、教师只决定信用在步间怎么分;Qwen3-1.7B/4B 上 24 组三种子均值全涨,宏平均 Avg@8 +1.74~+3.58,配对 t 值 8.2~40.1。本专栏逐项对账发现:题数加权后四组增益里三组变小(4B GRPO 从 +1.74 落到 +1.04),Prop 1(iii) 的逐项上界在 λ=10 处约 25 而实测平均 |δ_t| 只有 0.30~0.43,教师前向开销与 ‖p−q‖₂ 分布全文未报。
SynCo 用单次 K=4 rollout 的二值化结果判定任务是否承载梯度,并以此作为 Synthesizer 的可教性奖励与全文核心诊断。该判据在 K=4 下不可辨识:p=0.95 的任务仍有 18.5% 概率被判为承载,高于论文当作前沿签名的池级 16.2%;论文自陈可教性与该判据的 r=0.934 是 by construction。RGBC 用筛查—确认两阶段抽样给出复现率证书,重写可教性奖励,并为参考答案补外部锚。
GRPO 把参考策略 KL 做成一条与奖励并行的损失支,奖励支被裁剪或抵消后 KL 仍在更新;ZCPO 把 KL 换成组内相对漂移的零和系数修正,Qwen2.5-32B 上 AIME24 47.3→56.8、AIME25 37.1→48.5。本专栏逐项对账后发现:β=4 时,k≤2 的组里多数类响应的 |a_i| 只有 0.067–0.143,βK_i 超过 0.036 nats/token 就能翻掉奖励符号,而峰值比 β‖K‖_∞ 全文没有实测值、也没有「只留 −βK_i」的对照臂;ZCPO 响应均值 1695 token 对 vanilla 的 774/611,唯独没报 β=0.001 与 β=0 的长度;F1 的任务级对照只回收 AIME25 那 +13.8 里的 +4.6
针对 Re:Max 模式重放缓冲以字典序最小样本永久冻结、M=16 无淘汰封顶、重放权重按单一参考构型一次性标定这三处未记账决策,提出准入—漂移—淘汰三层账本 ADEL,把「模型记住了哪一条解法、何时该换、槽位满了让谁走」变成可审计的数据工程问题。
组相对目标在一组 rollout 奖励全 0 或全 1 时 advantage 恒为零,实测四个尺度上可用预算从没超过 63%;SRD 不动策略损失,改为给每条轨迹配一对「只看题目的先见 / 看得到轨迹的回顾」,用 EMA 自教师逐位置蒸先见分布,λ=0.01 挂在 GRPO / OPSD / RLSD 上,主表最大 +24.16 pp。本专栏逐项对账后发现:+SRD 臂保留了宿主的动态采样过滤器,均匀组在表 1 里照样被丢弃重采;24.16 pp 出自该列垫底的 OPSD;最大的五笔收益全在 OPSD+SRD 行,而 E.4 自陈该行的位移是沿同一条射线缩短到 0.28 倍;λ 扫描没有 λ=0 臂;表 7 的净 +0.58 tokens 与工具调用 +28.8% 分属两个口径
SGUID 用每次检索的贡献率 Q 过滤技能,却用绝对贡献计数 A_L 排序,而 A_L = N_L x Q_L 把检索次数乘进了排序键,N_p(s) 全文从未刊出。RACS 把排序键换成收缩后的教导率、补流行度臂与频次匹配安慰剂臂,并用跨块跨种子复现证书与窗口标定曲线给选择结果定可信度。
ToolRACER 的修复提示由判官自己的失败诊断生成,附录 A 的 26.3% 首过率与 65.4% 修复率相乘即出 64.7% 的提示依赖率,而这条语料从未在无提示条件下重跑过。PLAT 用产出账本、无提示配对重生成、注入落地率标定与等样本量 2³ 因子设计,把对抗语料的准入从内容标签换成产出标签。
跨分词器 on-policy 蒸馏里,静态词表 Jaccard 重叠只有 39.49–64.87%,学生轨迹上的严格 1:1 覆盖却有 85.57–96.98%;把 mismatch 组用 span log-prob MSE 补进来拿到 100% 结构覆盖,18 个正权重设置全部低于lambda=0,降幅 0.27–1.20 pp;反过来把每个位置的支撑词表从 8.5–11 万条砍到 16 条仍留住 96.1–98.4% 的蒸馏增益。本专栏逐项对账后发现:span 损失既未按组内 token 数归一化、也在组内做均匀分配;诊断跑在 lambda=0 的轨迹上却要解释 lambda>0 的轨迹;分裂半参照到 step 100 已塌到 0.076–0.246;rho 相差 8.3 倍的两对掉点幅度重合;lambda 扫描非单调且全文 seed 零命中
FALCON 用保留字下种抬高的 SQL 复杂度,正是它用来分层报出难度增益的那把尺子;SADE 用残差轴、下种轴匹配重加权、执行等价可辨识度与交叉拟合去污染 BIRD,把这条增益曲线拆到轴、判据、测试集三个因素上重画。
用轨迹耦合核把「策略」定义成优化器视角的等价类,再证明 RLVR 必然把质量压向单一策略、而非平凡准确率又要求一个策略容量下界,两条结论冲突即晚期的准确率悬崖。本专栏逐列对账后发现:12 列里只有 4 列 z 越过 2,7B 模型四列全在 1.13 以内;最大一笔 11.5 pp 落在 GPQA,而那正是论文自己宣布定理 2 失效的一列;MEI 的报警阈值对应 16 个方向里剩 15.79 个,量的是梯度对齐不是策略数量;13.4 pp 全部由一个系数 1e-5 的正则项贡献,全文没有它的敏感性实验
一周之内,私人诉讼、行政调查与刑事立法三条通道一并指向 Agent 的越权行为,Anthropic 招股书则把供应商循环融资第一次写成了可审计条款。
针对轨迹重放选择器用臂级负控验证逐条效用量、且梯度对齐在冻结检查点算一次后被四个 pass 复用的问题,提出记录级可辨识性证书 RIC-PR,含分层收缩、单调重参数化与分段重选,并给出六条可证伪预测。
只加一个绝对值,把序列级 off-policy 掩码的汇总分数从「带符号对数比的平均」换成「对数比绝对值的平均」,并给出频率—严重度联合预算。本专栏逐项对账后发现:代码侧 headline 里 68% 的增量来自唯一一列,而 checkpoint 正是按那一列挑的;两条方法的阈值网格只在两点重叠,headline 是各自取最好再比;失配由「一个 rollout 批切 128 次更新」的配置造出来,全文没有扫这个旋钮
针对大规模 Agent 失败语料的重放证据在 k=1 单次执行下签发、且从未进入训练准入的问题,提出双臂复现、保真分层与 E2 证书门控的纠偏账本 RFSCL,并给出五条可证伪预测。
用分块 Metropolis-Hastings 把专家轨迹在保持语义等价的前提下推回基座的高似然区,再喂给一字未改的 SFT。本专栏逐项对账后发现:31.7pp 的总增量里 MCMC 只占 14.8%,四张表没有一张全列第一,除 MATH500 外所有「胜过 on-policy 基线」的差都在 |z|<1.7,且附录 C.2 把 MH 换成了贪婪爬升,恰好绕开了 Proposition 3 依赖的平稳分布
异步后训练里陈旧 rollout 撑大了重要性比的长尾;GMC-GRPO 在同一条二阶矩保证下求出偏差最小的组级收缩系数。本专栏逐项核算后发现,摘要里 ε^-4→ε^-2 的系数差在调完步长后只剩 3 倍,且论文自己的定理在它自己的实验点上只保证 O(N^-0.19) 的速率
AutoCompact 让裁判在数据采集阶段改写压缩决策并现场执行改写后的输出,却从未执行策略自己的原版,占监督 53% 的摘要改写价值无人测量;分段优势又被整条轨迹共享,逐次压缩拿不到自己的信用,量摘要质量的关键词筛查已顶到 99.8% 却测不到论文自己命名的自洽失败。本文提出对照分支压缩账本 CBCL:在裁判改写处开配对分支记 Δ,用确定性的消费与自洽判定替换关键词筛查,按账本改写分段优势,λ=0 时严格退化为原方案。
PhantomEnvironments 证明纯规则生成的虚构世界能把搜索 Agent 训练迁移到真实基准,但其约束轴反噬的原因(整题原样检索即可取回 gold 文档)是在训练后读轨迹才发现的;本文提出单查询可检索性证书 κ 与迁移落差 Δκ,在采样阶段用检索调用算出每题是否可免分解求解,再用捷径预算约束环境复杂度轴的配比,把论文手写排除的 aggregation 题型泛化为可计算审计。
针对 OASIS 等在线策略自蒸馏方法只用最终答案验证器挑选受监督轨迹、把答案正确而推导无效的轨迹逐 token 蒸馏进去的问题,提出以依赖图结构否决作为第二道门的 SCION 框架,并把被否决轨迹改派到教师上下文槽、把截断轨迹的依赖有效前缀回收为监督。
SCAPO 把同一条响应在保答案 prompt 扰动下的 token 概率漂移做成 GRPO 的负向信用修正;本专栏逐列重算后发现,相对每列最强基线的余量全部落在 z<1.5,且典型修正量级与 advantage 差两个数量级
ARCUS 把 GRPO 的 prompt 采样搬到 Bernoulli 族的 Fisher–Rao 弧长坐标 ψ=arcsin√p,在这个坐标上放一个高斯核当课程:核的中心是要优化的目标,宽度由目标给出,位移由浪费预算决定,一行不改 GRPO 的损失却把平均分抬高 2.8–2.9 点、比 dynamic sampling 少花 48–57% 的 rollout。
DTV 按 mini-batch 多数梯度方向筛掉冲突 rollout,其自身 AIME 表显示 Maj@16 涨 3.34 个点而 Pass@16 从 0.4000 退回预训练的 0.3333;本提案用策略分层把有害与异类分开,给出 STRATA
CRR 在选中决策点回滚沙箱、换个动作重跑到底,用两次终端回报之差替换该步 advantage;它不需要 PRM,代价是 133 H100 小时的重放算力,而作者自己的成本倍率扫描显示优势在 m≈3.6 处变号。
PSP 让分析器给低成功率的任务写几条规则塞进上下文重采样,训练目标仍是原封不动的 GRPO;把它的消融对减后,撤掉 27B 参考轨迹 PSP 就与 GRPO 重合到 0.1 分以内。
Env-Rethink 的可解性证书签发在策展前的原始环境上,而下游消费的是准备模型删过一遍的环境;本提案用 Workspace-Bench 自带的 per-task 依赖图把「零误删权威记录」这条已有判据搬到部署侧,给出策展感知可解性证书 CASC
2026 年 W40:智能体工作负载把瓶颈从 GPU 挪到 CPU 与内存,交易入口变成可封锁资产,而支撑这场扩张的项目债出现了第一个违约保护动作
SciWalker 的子步执行奖励跑在策略自己生成的前缀上,等于前缀可用性与局部正确性的乘积;本提案用参考实现前缀做嫁接重放,制造出 BEACON 所需但代码场景不存在的里程碑判据,并据此重建分组与奖励
PoEM 在 KL 正则 RL 的闭式解上给出乘积专家组合,用一次最小二乘拟合权重、一个 coverage 分数提前判断能不能信;把它的主表对减后,扩散那一支的权重是拟合到目标模型的,语言侧两次 RL 之差的持平只成立于 32 选 9 的子集。
公开 GLM-4.5-Air-Base 的八阶段后训练配方,20 项基准 19 项领先官方版;把逐阶段 Δ 表与终值行对减后,SWE-bench 与 Seal-0 各有一段从未以 Δ 形式出现的回落,两个 AIME 年份合计净亏 2.5 到 3.3 分。
针对角色解耦深搜 Agent 中有损摘要把丢弃的收益记在当期、成本延迟到期末才显现的记账错位,提出关系级丢弃账本、离提示原始观测缓冲与恢复式反事实重放,为无法推迟的写时策展补上可计量的延迟信用
把评测侧的种子条件化仓库视图实例化改造成训练侧数据探针,为每条训练实例估计线索依赖系数,并据此重写掌握度判定、成功轨迹回放与训练前沿选择
BPO 用 Bellman 方程把逐 token 优势望远镜求和成轨迹级残差,证明它与 PMD 同解从而无需 critic;可它一阶线性化丢掉的那一项在理论最优点上恰好等于保留的那一项,落到实现里只剩 GRPO 的组内优势乘一个互补概率比权重。
为机制合成的 agentic 强化学习环境签发分辨率证书(上锚可达比、地板质量、变异检出率),把奖励值域从隐式归一化分母变成可记账、可分层、可调权的语料字段
PACT 用三条正则条件把 token 级信用唯一钉成条件期望的鞅差,推出 OPD 教师即隐式 critic、RLOO 与之梯度等价;可它所推荐的 λ=1 配置从头到尾没估过这个信用,而那 +5.13 分的一步重要性校正只保留了 1/(τ−t+1) 的一阶项。
稀疏 on-policy 蒸馏挑 token 时只看有用性,本文在 Fisher 几何下补上梯度估计可靠性这一轴(IER);0.1%–1% 预算追平全量 OPD,但只在 big-to-small 那一对上成立。
把 Cal-OPD 的标量区间门提升为候选集上的词表级目标,在其上重算梯度估计可靠度,解决稀疏监督选择与信号校准互不窥见、且只有无信息顺序付得起算力的死锁
把 CoVer 的自生成测试奖励从当前步代码池与测试池的联合统计量解耦为跨步可比的仪器读数,用冻结探针池、置换零假设与双池互信息重建可审计的验证器监督
CodeMidas 只用源代码作任务侧输入,把开源仓库已实现的功能自动翻成可执行编码 RL 环境;5,545 个任务训 MiMo-V2.5,五个外部基准全涨,而答案本身大概率已在预训练语料里。
2026 年 W39:AI 基建的计价单位从 GPU 换成可并网兆瓦与可抵押现金流,电力灵活性与算力合约一起进入金融合同
训练引擎与推理引擎的微小数值差异会让策略梯度多出一个把模型蒸馏向采样器的漂移项,而采样器又是从训练器同步回来的,误差于是复利。论文给出一个无超参的加性修正项把它精确消掉,不引入任何方差。
把合成数据选择的审计—下游秩相关崩塌分解为形式污染与逐条/集合错位两个正交因子,并给出可扣除、可切换的审计重建方案
ActObs 用单一标量 λ 加权全部观测 token,而轮次级依赖 DAG 裁剪按「对最终答案是否承重」删轮次;两者改的是同一条 token 流,记账单位却都是 token 数。本文提出 TOMA 框架,把分配粒度升到内容类型向量、把裁剪的记账单位换成监督信号,并给出四条可证伪预测。
agent 轨迹里约 45% 的 token 是环境回显,标准 SFT 把它们留在上下文却排除在损失之外。论文只改一行掩码就让它们重新成为预测目标,零额外成本地为后续 GRPO 换一个更好的起点。
PPO 的 critic 在一条响应内部几乎不区分各步价值:论文把成因拆成隐式方差惩罚与时间相关冗余更新,只改一行监督位置就把 Qwen3-4B 的数学平均拉高近 8 分。
把 ScienceIDE 的 r_repair = max(0,(r−f)/(1−f)) 在该定义域上展开为 (j−b)/k,指出修复与附带破坏不可分辨、单条检查单价 1/k 未入账、裁剪把回归压平这三处退化,提出检查级分账框架 CLARE 与零成本日志回放审计。
针对 LWD 用教师失败子集内部 z 分数分配轨迹权重带来的池依赖、符号翻转与长度混淆,提出记录局部可学性标定框架 ARL,并给出免训练的池扰动审计与四臂训练对照。
RLVR 的增益与模型初始水平成正比;论文把病因从「难题采不到正样本」改判为固定采样预算下的算力错配,给出按题几何续采样的修法。
用教师的部分推理轨迹给不可解题装上难度旋钮,128 道题配单调前沿课程在九基准平均上追平乃至超过 2000 道题的全量 GRPO。
针对 VG-OPD 把监督分配下沉到准则级却未对准则集本身记账的问题,提出准则集账本、双分母重打分与证书式压力测试,量化验证器弃权对奖励与门控的同向扭曲。
针对 Dream-RSI 把累积发现历史当模拟器、在已实现搜索空间上离线选择探索策略所导致的支撑天花板问题,提出以零成本支撑外价值标定、兄弟记录协议与组合安全性复检补回缺失自变量的 SPARE 框架。
在固定 GRPO 配方、固定验证器、12 组匹配种子的条件下比较 13 种筛选、重加权与自适应混合配置,没有任何一种相对均匀采样产生可复现增益;本专栏重算其域级分解与置信区间后指出,这个 null 结果里既有度量方式的产物,也有统计精度的产物
针对 RLVR 冷启动 prompt 选择中零 rollout 难度先验把锚点全败与全胜的 prompt 判为同一分数的对称退化问题,提出以非参数已识别区间与锚点—策略方向性迁移替代 Beta 点估计的审计框架 ZLA。
2026 年 W38:下游应用公司开始自建模型,AI 价值链从「模型—应用」二分走向三层重新谈判
TrimSFT 用 gold token 与最强竞争者的 logit gap 做高斯带通加权,剪掉已掌握与学不会的两端;本专栏按题量与论文自身消融列重算,发现相对最强基线 DFT 的领先幅度小于论文的噪声地板,而机制解释与其附录数据脱钩
提出 LRA,把重复率的计量单位从任务级 epoch 换成 token 级暴露重数 R_exp = G×μ×E,用递归任务合成的谱系图记账,审计并调度 MoE 长程 Agent 强化学习中由组采样与谱系嵌套叠加出的重复。
NAVER AI Lab 提出 E-SFT:按位置保留推理轨迹的首尾、删掉中间约 20% token 再做 SFT,零额外算力胜过五种过滤基线;本专栏按题量重算发现等权增益里两个配置转负,而解码时删掉中间 75% 精度只掉 0.02 分
提出 PAVA,把检测器定语料的精度显式建成部署池患病率的函数,用可执行环境构造 phantom 探针估 π 与 FPR,并给出「verdict 保持型污染的提纯能力精确为零」这一可证伪推论。
NSD 让模型自己生成「粗心的解题者」当负教师,再用门控 unlikelihood 把学生分布推离它,全程不用标准答案、不用外部教师;本专栏重算后发现等权 ΔAvg 里 57% 的权重压在 9% 的评测题上,且纯噪声负条件在策略梯度设定下三个尺寸全部第一
提出 SPLIT-Q,把 ExecCritic 的 Base-to-Gold 合取谓词拆成 (B, G, C) 三元组,用可执行的覆盖度标注与免 Gold 的 Ĝ 预测器,对代码 Agent 的反馈仪器做双侧门控与分层路由。
在为弱模型进化出的 agent 脚手架上做专家轨迹模仿,七项任务全部退化、平均 −14.9 分;论文把病因定位为模型–脚手架适配被打破,并改用只重写失败那一轮的 on-policy 单轮纠正把两条杠杆重新拼回去
把 on-policy 蒸馏与 RLVR 从同一步内加权混合改成前后两阶段执行,逻辑推理 pass@1 领先全部七种联合方法 11.7–26.7 分,并用「教师天花板」解释联合方法为何集体卡在教师水平
针对合成真值 RLVR(把注入模拟器的隐藏干预当 oracle 标签)提出 GASA 审计框架:把生成器配置写进数据账本,用免裁判的可执行检验与按生成器配置留出的评测协议,测量被验证器 soundness 仪器漏掉的生成器特异增益。
把 on-policy 蒸馏的训练集砍到只剩一条 query,学生仍拿回全量数据八成以上的增益;用状态覆盖率与吸收速率两把尺子说明 OPD 是数据过饱、算法饥饿
针对验证器误差在 GRPO 组内呈 0.53 相关、使组级统计量有效样本量从 K 压缩到约 1.6 的问题,提出按答案形式分层估计 ρ、用 Beta-Binomial 后验替换硬性退化过滤、并按 n_eff/K 收缩组权重的校准框架 FACE
用教师模型从自然语言规格合成监督数据,微调一个 LoRA 适配器,得到可离线反复调用的本地神经函数
数据选择准则在教师固定的设定下导出,而 RISE 类方法让教师成为训练流的函数;本提案提出 GRADE,用每提示的接地质量与蒸馏负载之比重新标定选择,并给出三臂对照与三条可证伪预测。
GPT-6 Astra 证明能力已经够用,129 亿美元买下开源枢纽、48 亿美元涌入算力交付——本周 AI 产业的利润正从模型层向交付层转移
阿里 Qwen 团队证明公开 agent 轨迹直接做 SFT 是负收益(−10.3 分),提出从轨迹反推可执行环境的逆变换管道,用 35.9 万条轨迹重建 3.73 万个带验证器的环境,把 Qwen3.5-27B 的 Terminal-Bench 2.1 从 46.2 推到 58.1
轨迹反推环境把日志当作完整观测,而审查证据显示它只是一次有损投影;本提案提出 CARE 框架,用意图—事件缺口与补全依赖度两个量给每个环境发完整性证书。
把轨迹重建环境语料从产物集合升级为带祖先标注的产物集合,用可执行女巫检验估计有效监督单元数,并让合成与回放预算按边际覆盖分配
在环境逐代变难的 Agent 强化学习中,把标签的验证器版本写入数据账本,量化陈旧正样本,并把优势估计与数据选择建立在版本条件之上
控制实验证明 on-policy 蒸馏的收益来自「抑制低概率 token」而非教师监督,据此提出的 OPSA 只靠 token 熵自适应负优势,在无教师、无奖励、无标签的条件下把 Qwen3-1.7B 的 AIME24 Avg@32 从 13.44 推到 48.85
针对长程 Agent 强化学习中上下文驱逐造成的训练-部署条件失配,提出以驱逐密度为一等统计量对 rollout 预算做分层分配的 EDGE 框架,把探索信号的梯度可得率与压缩偏置率放进同一个目标函数联合优化
同一模型分饰环境设计者与解题智能体两角,用「给提示能做、不给提示做不出」的回报差驱动课程自适应生长,在 Qwen3-30B-A3B 上把八基准套件均值从 50.2 推到 58.3
RLVR 的解空间收缩集中在首个算子选择而非下游执行,现有修复停在参数层;本提案把入口族提为可验证的一等结构,用分叉覆盖数据与入口分层优势基线在数据侧阻断首步熵坍缩。
多轮 Agent 训练数据的监督信号停在终局且依赖模型裁判,导致约束蒸发、重做偏好与前缀污染三类失效;本提案把规范变更提为一等公民,用反事实重放构造不依赖裁判的可验证修订信号。
把多轮工具调用从线性轨迹重述为菱形状态图,只在学生首次偏离可达区域的断点上施加局部监督,避免有效探索被全轨迹监督抹除
让未训练的冻结模型跑通同一套评测管线测出零线,识别自我改进研究的七种测量失效;通行的能力扩展率统计量给这个零训练模型打出 0.280 的扩展分。
针对 ACE 框架把 Accuracy 当作标量门限、而验证器的义务覆盖窄于任务真实义务集、导致激进数据筛选诱发义务坍缩的问题,提出义务覆盖感知数据工程框架 OBLIGA
基于 Verifier-Induced Support Reshaping 揭示的跨任务支持退化机制,将有效可奖励支持集建模为一等训练数据质量信号,通过路由-支持画像诊断与路由锚定策展系统性消除多任务RLVR训练中的隐性支持侵蚀
将GRPO全失败组的信号真空率建模为一等训练数据质量信号,通过信号真空诊断、密度驱动策展与真空-能力共进化闭环系统性消除RLVR训练数据中的梯度盲区
当智能体 harness 本身被持续优化(AutoDesign/SKILLER),轨迹失败的归因变得模糊——是数据质量问题还是 harness 质量问题?提出 ATTRIB-DECOUPLE 框架,通过反事实 harness 消融实现失败归因解耦,驱动 Harness-数据协同进化
英伟达缩减OpenAI数据中心担保、Databricks 1900亿估值验证企业AI收入、一周五款模型发布引发价格战——AI产业从资本叙事走向收入验证的转折周
将多轮智能体RL自蒸馏中的方向-幅度解耦兼容性建模为一等训练数据质量信号,诊断三类解耦失败(方向模糊/幅度污染/方向-幅度冲突),通过因果锚定的方向-幅度边界自适应数据策展系统性消除教师方向劫持与信息不对称偏差
后Transformer架构BDH结合循环记忆与潜在空间推理,以150M参数在ARC-AGI-1达到29.5% pass@2且每任务仅0.0007美元,突破成本-精度帕累托前沿
针对LOPD可学习潜在上下文中的行为模式质量盲区,提出行为诱发保真感知的训练数据工程框架(BEHAV-ELICIT),从数据层面系统性消除潜在上下文组合中的行为模式坍缩、失配与漂移
提出Skill Entropy量化LLM在推理链中切换技能的难度,构建Skill²-Bench基准并开发Skill-Entropy RL训练框架,将评测指标转化为训练信号实现跨技能长程推理的显著提升
将多智能体RL训练中的模拟器坍缩问题从推理时泛化失败重构为训练时数据质量信号,通过模拟器行为多样性画像驱动数据策展,系统性消除策略对单一模拟器主导模式的过拟合
将Consilience揭示的置信轨迹时序不对称性从测试时选择扩展至训练时数据质量信号,通过探索-收敛模式驱动的数据策展系统性消除训练数据中的自信捷径偏差
将AgentOPSD/ABSeeker/DASH揭示的信用提取机制可靠性条件建模为一等训练数据质量信号,通过信用保真诊断与保真驱动策展实现多信用提取机制的联合保障
Anthropic百亿美元算力合同、字节10万亿参数模型、DeepSeek两轮千亿融资——AI竞争从技术驱动转向资本与生态博弈
将 Agent 失败轨迹的 Harness 可修复性建模为一等训练数据质量信号,通过可修复性诊断、可修复性驱动策展与可修复性-能力共进化闭环,系统性消除 Harness 工程师训练数据中的不可修复噪声
基于 Sample More Reflect Less 揭示的自检失效现象,将反思诊断价值与反思Token成本解耦,通过群体对比验证提取诊断信号并构造预算最优训练数据
Anthropic抢跑IPO vs OpenAI推迟上市,NVIDIA 2500亿供应商担保揭示AI基建金融化深水区,大模型价格战进入'后训练优化'新阶段
将环境转移动态的信息密度建模为一等训练数据质量信号,从数据层面系统性解决智能体RL训练中的环境动态学习瓶颈
通过反事实重评分实验揭示OPSD特权偏移不承载答案对齐信息,提出敏感性信用重分配框架
诊断智能体RL训练数据中反事实敏感度与答案判别性的系统性错位,提出SHIFT-DISC框架从数据层面重构梯度信号质量
揭示 RLVR 训练中的谱继承现象,提出等谱优化框架:固定基座谱、优化奇异帧,在线 2.7× 训练加速 + 离线无数据专家合并 SOTA
将全程序合成轨迹中的规约 elicitation 保真度建模为一等训练数据质量信号,诊断规约-执行耦合退化,设计规约感知的数据策展策略
针对Skill-SP技能自博弈中验证信号被奖励捷径污染导致的捷径均衡陷阱,提出验证捷径免疫数据工程框架SHORTCUT-GUARD
Meta AI 提出离上下文重要性校正,使引导采样在困难问题上提供有效学习信号的同时不偏离原始训练目标
围绕Claude Opus 5降价、Grok免费Office插件和Oracle大规模裁员,分析AI基础设施从轻资产到重资产的跃迁,以及对大模型商业化和Agent生态的结构性影响
针对CUDAPerf揭示的RLVR结构盲问题,将程序结构覆盖度建模为一等训练数据质量信号,通过结构特征自动发现→结构覆盖诊断→结构覆盖驱动数据策展三阶段,系统性消除优化代码生成训练数据中的结构覆盖空白
将 CoT 推理建模为切换动力系统,揭示推理微调全局重组潜在推理动力学而非仅改善局部 token 能力
将ISO揭示的谱继承约束(RLVR仅修改奇异帧而保持谱固定)建模为一等训练数据质量信号,从帧方向角度重新定义训练数据有效性
揭示长上下文推理中思维模型的重复复制失败模式,提出证据感知奖励塑形方法GEAR,最高+4.6平均分提升
将工具规约保真度建模为一等训练数据质量信号,通过规约-泛化双门控策展系统性消除 MCP 规模智能体训练中的工具级规约博弈
揭示 Reverse KL 正则化的稳定性-探索困境,提出锚点采样+混合优化双机制框架,有效缓解 LLM RL 训练中的过优化与验证崩溃
针对LLM-as-World-Model环境无关数据合成中的状态一致性问题,提出模拟一致性感知框架SIMCON-DATA
NVIDIA+MIT韩松团队首个将自回归、扩散与自推测解码统一在单一架构中的语言模型,6倍前向token产出,4倍吞吐量提升
ACL 2026 Outstanding Paper:推导 token 级熵变解析近似,揭示四控制因素与四象限理论,提出 STEER 精细化熵调控方法
将 LLM-as-a-Coach 体验知识的保真度建模为一等训练数据质量信号,诊断体验过时、体验冲突与体验稀释三类退化,通过保真驱动策展与体验-策略共进化闭环解决后训练信号带宽扩展中的数据质量瓶颈
首次建立预训练到RL后训练的联合缩放定律,揭示RL在简单问题上放大已有偏好、在困难问题上浮现潜在知识的双重机制
诊断自进化智能体中评估信号与训练数据质量的复合漂移动力学,设计漂移断路器与锚定校准的数据策展框架
2026年W29:Agent融资进入收入验证阶段,Anthropic/DeepSeek IPO竞速,AIDC迈入吉瓦级时代
揭示 PPO-Clip 欧几里得度量与策略黎曼流形的根本性几何不匹配,提出 RIPO 黎曼等距裁剪实现探索与利用的几何平衡
将CPO对比优势塑形从单轮RLVR扩展至多轮沙箱智能体RL,利用BPO分支反事实构造步骤级参考分布,以反事实优势作为训练数据质量信号
首次将零样本强化学习扩展到万亿参数规模,发现发现-精炼双阶段训练动力学和五种自发涌现的高级认知行为
将SEED/BPO/TRACE揭示的信号增强方法对轨迹程序性结构的隐含依赖建模为一等数据质量信号,通过程序性可学习性评分驱动训练轨迹的策展、合成与组织优化
将ReOPD揭示的前缀陷阱现象从蒸馏阶段重构为数据合成阶段的一等质量信号,通过教师可靠性景观估计驱动需求优先数据合成的采样策略优化
首个在 Dense 和 MoE 架构上稳定扩展的 GFlowNet 风格 RL 算法,14B 规模达 Codeforces 2048 Elo(接近 o3-mini)
预注册因果实验揭示代码 RLVR 中 47.57% 泄漏奖励流向真正错误代码,机制为选择而非学习
将 LLM 晚救援(wrong-dip)机制从微调后诊断工具重构为训练数据质量的先验信号,设计晚救援脆弱性感知的数据策展与合成策略,系统性消除输出仅 SFT 对内部推理路径稳定性的隐性破坏
将训练数据工程从二元验证假设扩展至连续验证景观,利用验证梯度结构驱动训练数据策展,系统性消除二元验证造成的训练信号失真
将弱模型RL训练的策略偏移而非最终策略作为隐式奖励信号迁移到强模型,4小时8卡即可提升10个百分点
首次从第一性原理推导 GRPO 训练动力学的闭式降阶模型,将其映射为随机受迫阻尼谐振子,统一经验饱和律、预测组大小不变性、定位稳定性阈值、分离四种失败模式诊断,训练曲线拟合 R²≥0.91
将微调训练数据中的电路对齐退化建模为一等数据质量信号,通过记忆-推理脱节诊断与电路路由锚定数据策展,系统性消除LLM微调中的Knowing-Using Gap
针对代码LLM在欠规范提示下坍缩至单一错误解释而非产生多样输出的反直觉现象,提出欠规范感知训练数据工程框架,从训练数据层面系统性消除语义坍缩偏差
Anthropic 提出梯度路由辅助模块(GRAM),在预训练阶段将双重用途知识隔离到可移除模块,单次训练近似多个数据过滤模型,为 AI 能力级访问控制开辟新路径
2026年W28:Meta入局云算力、SambaNova推理芯片10亿融资、GPT-5.6与ChatGPT Work发布——AI竞赛从模型层向基础设施层与工作流层双线迁移
用对抗性判别器将可验证奖励与人类演示信号统一,在保持任务准确率的同时修复RLVR的多样性坍缩、非人类输出和奖励黑客三大失败模式
将率失真理论从推理时记忆压缩扩展至训练时数据工程,统一建模自进化智能体经验-训练管道的跨层信息损失,提出率失真最优轨迹策展方法
用概率容量形式化揭示裁剪结构性抑制探索,以自锚定比率实现正优势无界更新
诊断同一验证数据在SFT中退化、RLVR中提升的范式鸿沟现象,提出范式感知的训练数据工程框架,实现验证课程的自适应路由与SFT安全变换
揭示RL更新的推理有效成分集中在基座模型光谱空间,仅0.58%参数即可保留99%以上后训练性能
针对多教师在线蒸馏中token级行为杠杆失衡导致的隐性过调用问题,提出LEVER-DATA框架,将行为杠杆分布建模为一等训练数据质量信号
揭示特权上下文自蒸馏在思考模型中的反直觉失败模式——fork抑制机制导致推理退化高达17%
将长程智能体执行中的失败级联结构建模为一等数据质量信号,通过级联依赖图诊断、断点锚定轨迹合成与级联-能力共进化闭环,系统性打断自条件化触发的失败传播链
将RSPO揭示的稀疏-密集奖励配比问题从算法层面重构为数据工程层面,通过轨迹段级奖励密度画像、密度分层策展与密度-能力共进化闭环,系统性解决多轮智能体RL训练数据中的信号密度失配问题
将跨回合过程性信号转化为可复用记忆并蒸馏进策略权重,打破 RLVR 的回合局部性盲区
从英伟达收入分成模式到 Anthropic 金融 Agent,AI 产业正经历从硬件销售到持续收益、从模型能力到垂直场景的深层商业模式重构
针对AutoMem记忆管理能力提升与DRIFTLENS记忆诱导推理漂移之间的根本张力,提出记忆-推理漂移耦合退化诊断与漂移锚定的解耦数据策展框架
将认知科学元记忆理论引入LLM Agent,通过双循环自动优化记忆结构与熟练度,32B模型比肩Claude Opus 4.5
当代码生成从单体轨迹转向模块分解+组合重组范式时,训练数据工程必须从轨迹级重构为模块级,以重组保真度作为核心数据质量信号
发现循环Transformer的表征瓶颈并提出离散嵌入+连续隐藏状态双通道循环架构,在单次前向传播中实现近完美的多跳推理泛化
揭示RL后训练增益在Transformer层间极度不均匀分布——仅训练单个中间层即可匹配甚至超越全参数RL训练,跨7模型3算法一致成立
针对多轮工具增强智能体RL训练中工具交互引发的熵不连续性问题,提出交互熵感知轨迹数据工程框架,从数据层面系统性消除工具交互边界处的决策不确定性
首次将任意优势函数分解为正负梯度质量的两条正交轴,揭示符号轴熵坍缩/秩-1坍缩与难度轴信息-方差三大权衡,提出FADE自适应调度器,7B提前20k步达峰值,所有pass@k最佳权衡
针对RLVR仅优化测试通过率而忽视代码非可验证质量(风格、可维护性、项目规范遵循)的盲区,提出验证-示范双维门控轨迹数据工程框架CODE-DUAL,利用项目代码库作为演化示范分布,通过双维质量门控、双维信用分解和双维-能力共进化闭环,系统性消除代码智能体自进化中的测试通过率陷阱
首次端到端联合优化顺序推理、并行搜索与聚合三种推理计算原语的RL框架,扩展效率较GRPO提升11倍
挑战Transformer均匀层宽的默认设计范式,通过余弦递减MLP宽度实现零成本困惑度改善1.84点
将训练轨迹的地平线结构(长度分布、复杂度梯度、失败-恢复模式覆盖)建模为一等训练数据质量信号,通过地平线前沿诊断→主动地平线合成→地平线-能力共进化闭环,系统性解决智能体训练数据中的短片段偏差与地平线覆盖空白
首次从token级梯度分析揭示GRPO熵坍缩的信用分配错配机理,提出惊奇度分位数代理+目标熵闭环门控,1.5B-32B跨三任务族AIME提升4-8%
利用多模型共失效结构作为系统级训练数据质量信号,诊断并定向填充跨模型共享的数据盲区,从根本上降低共失效率β、提升多智能体系统精度天花板
诊断多轮Agentic RL训练数据中步骤级位置-信息量耦合悖论——决策关键步骤因远离结果奖励而信号最弱,通过因果杠杆-信息量联合画像、步骤级锦标赛比较与解耦驱动策展系统性突破该瓶颈
揭示LLM强化学习中探索多样性的推理-记忆对齐盲区,提出方向感知奖励塑形框架,选择性放大推理探索、抑制记忆捷径
发现正确rollout在锚点token处隐藏状态自然但不完全收敛(cos≈0.84),通过对齐蒸馏出路径无关的'正确决策'表征,零开销提升RLVR推理3.8-6.2pp
将RLVR训练中的正确集流转动力学建模为一等训练数据质量信号,通过流转模式诊断、修复窗口感知策展和流转-能力共进化闭环,系统性解决获取-保持权衡问题
受海马体记忆重放启发,用离线递归前向传播将短期注意力记忆转化为持久快速权重,Ouro 1.4B六步推理准确率+47%
将分布内优化原则从策略学习扩展至数据工程全流程,通过显式建模智能体能力分布约束数据合成始终处于可学习区域,建立策略-数据分布共进化机制解决自进化训练中的分布漂移问题
2026年6月AI产业进入Agent规模化商用落地元年,Anthropic抢先IPO改写行业格局,算力军备竞赛加速万亿资本涌入
将推理经济性建模为一等训练数据质量信号,通过冗余诊断→经济性驱动策展→经济性-能力共进化闭环,系统性消除智能体RL训练数据中的冗余推理偏差
首次用归一化流在LLM骨干内建模连续思维链,保留精确似然、KV缓存、从左到右解码和RL优化全部优势
将技能内化过程中的条件保真退化建模为一等训练数据质量信号,通过条件边界保持、版本冲突消解和组合接口维护三阶段的条件锚定数据策展,系统性消除外部技能向参数化能力迁移中的条件侵蚀、版本干扰和组合失真
证明双头Transformer在策略梯度RL下可涌现出随机化DFS搜索,且无需专家演示即可实现深度泛化
将技能依赖拓扑(层级整合、类型化依赖边、组合可复用性)建模为一等训练数据质量信号,通过拓扑感知的数据策展解决自进化智能体训练数据中的技能学习顺序违反、增强关系丢失、层级整合空白与冗余积累问题
揭示RLHF中LLM可影响自身偏好数据集,导致偏见被系统性放大至100%的结构性漏洞
ETH Zurich提出推理图框架,将非结构化推理轨迹转化为可验证的声明-依赖图,首次定义推理效率指标量化逻辑流集中度,揭示传统指标掩盖的结构性差异
将代码智能体训练从单一会话假设扩展至多会话交接场景,通过交接失败模式诊断、交接感知轨迹合成与对抗性交接场景生成,系统性消除训练数据中的会话连续性偏差
利用稀疏自编码器揭示的模型内部特征结构,从被动数据策展转向主动特征靶向训练数据合成,系统性填补模型能力空白
揭示SFT后训练中推理模型pass@k退化的数据驱动机制——决策点处的'岔路口'使模型锁定单一推理路径,通过问题级多样性和首token操纵可恢复被抑制的覆盖率
将Harness更新-受益能力脱节建模为一等训练数据质量信号,通过激活失败与遵循失败的双路诊断驱动定向数据工程,系统性弥合自进化智能体的Harness受益能力差距
在足够算力下,最好的数据过滤器就是不过滤——大模型能从低质量数据中受益
首次用稀疏自编码器(SAE)提取模型内部信号,建模数据多样性、难度、质量三维度,指导LLM强化学习数据工程
将差分电路脆弱性从微调后分析工具扩展为训练数据质量的先验信号,通过电路脆弱性预测→电路锚定数据策展→脆弱性-能力共进化闭环,主动预防训练数据导致的电路破坏
从Anthropic H轮9650亿估值超越OpenAI、DeepSeek获国家大基金领投、Agent从演示走向营收三个维度,解析AI产业格局加速分化的深层逻辑
用固定记忆块替代 CoT 自回归生成,单次前向传播完成潜在推理,TTFT 与直接回答相当
将多组件LLM智能体的组合连贯性建模为一等训练数据质量信号,通过组合残差诊断、连贯性驱动策展和组合-能力共进化闭环,系统性消除训练数据中的组合不连贯性
提出通用偏好强化学习(GPRL),用多维斜对称嵌入替代标量奖励模型,使在线RL首次可靠地适用于开放式生成任务,AlpacaEval 2.0领先14.59个百分点
将BES熵壳理论引入代码智能体训练数据工程,通过进化轨迹重组与后向目标分解联合逃离模型概率质量陷阱,系统性提升训练数据有效信息密度
揭示LLM推理中过早置信现象(模型在CoT早期就锁定答案,后续token仅做合理化),并提出无需外部标签的渐进置信度塑造RL目标,Countdown准确率提升3.2倍
将API边界代码智能体RL训练中的信用分配从轨迹级重构为调用段级,利用API调用的功能角色分类与因果依赖结构进行信用分解,解决Polar框架的奖励劫持问题与prefix_merging的信号丢失问题
诊断RLVR训练数据中的奖励信号污染(噪声、非泛化模式、过早置信触发),提出奖励信号纯度驱动的训练数据策展框架,从数据层面消除隐式奖励过拟合
证明DPO与RLHF的等价性依赖一个45.5%偏好对都违反的隐含假设,揭示DPO病态收敛机制,提出可证明对齐的CPO框架
提出 SKILL-GAP 框架,将代码智能体技能空白建模为一等训练数据质量信号,通过空白诊断、定向轨迹合成与空白闭环校准三阶段,系统性填补自进化技能库的覆盖、难度与组合性空白
提出可泛化推理源于学习任务条件化吸引子,2.6%→99.8%揭示test-time scaling的动力学本质
从环境交互轨迹中挖掘隐式约束,将约束覆盖作为一等数据质量信号,实现约束感知的自进化智能体训练数据工程
从动力学系统视角揭示LLM推理是动态解码状态而非静态能力,通过熵相变信号实现免训练自适应推理路由
将认知心理学的元认知理论引入LLM强化学习奖励设计,通过知识覆盖度和调节保真度两个维度为推理轨迹提供过程级引导
研究多验证环境下RLVR训练中的验证一致性问题,提出跨环境一致性感知的训练数据工程框架CEVC,通过验证一致性诊断、跨环境反捷径合成和一致性驱动数据混合三阶段,系统性消除环境特定验证捷径并提升跨域推理泛化
针对自进化智能体技能库中LLM撰写技能+0.0pp vs人工策划+16.2pp的质量鸿沟,提出技能-检索对齐的对抗性训练数据工程框架SKILL-ALIGN,通过检索失败证据锚定、作者-检索者对抗博弈和质量门控共进化闭环,从训练数据层面系统性消除技能撰写与检索使用之间的对齐鸿沟
将确定性递归潜在推理重构为概率多轨迹计算,首次实现深度×宽度的双轴推理扩展
揭示LLM自编写技能+0.0pp vs 人工策划+16.2pp的根因是生命周期管理而非编写质量,提出最小卫生配方实现持有集pass@1翻倍
将RLVR训练轨迹的秩-判别性结构建模为一等数据质量信号,通过秩退化诊断与判别性驱动的数据策展,从数据层面解决token级信用分配中共享模式主导的系统性偏差
三系统架构将规划从隐式涌现变为显式调控,8B模型匹敌120-355B,30B匹敌685B-1T,推理token减少25.8-95.3%
将训练数据工程流水线本身建模为一等演化对象,通过开放式档案维护与实证验证实现数据工程策略的自主发现与持续改进
揭示RLVR权重轨迹极低秩且近线性可预测,仅需15%训练步数即可外推匹配或超越完整RLVR性能
将工具增强智能体训练中的Sim-to-Real环境保真差距建模为一等数据质量信号,通过行为差距度量→保真门控策展→保真驱动环境增强三阶段,实现环境-数据共进化,系统性解决工具增强智能体训练数据的环境保真瓶颈
揭示 Chinchilla 式共线实验设计的根本病态性——固定 TPP 比率的训练网格使条件数随指数差逆平方增长,系数不可辨识,非共线设计在留出验证中以 97.3% 胜率碾压
将G-Zero的Hint-δ诊断信号引入PopuLoRA种群自博弈框架,使教师获取学生推理过程的诊断性访问权限,实现弱点感知的定向问题生成,突破求解率作为唯一反馈信号的训练数据质量瓶颈
揭示RL不仅优化推理轨迹,更能通过概率质量重分配解锁LLM中潜在参数化知识的直接回忆
将无监督过程奖励引入自进化环境合成循环,通过步骤级难度剖析实现精确锚定智能体能力前沿的环境构建
将EvoEnv的求解-验证二元不对称分解为层级化验证梯度,通过梯度陡度最大化与污染抵抗准入实现可持续的自进化环境构建
揭示RLVR在Qwen模型上即使使用随机/错误奖励也能大幅提升数学推理性能,GRPO裁剪偏置放大预训练先验行为(代码推理)是核心机制
AI基础设施投资迈向万亿规模,Token消耗量季度增长350%,Agent生态融资加速——产业正从'谁造得出'转向'谁用得起、谁落得了地'
提出 TRACE-DISTILL 框架,从测试时推理日志中挖掘可复用推理子结构,通过行为模式感知策展实现模块化训练数据组合,弥合测试时推理发现与训练数据工程之间的鸿沟
揭示GRPO等群体策略梯度方法的隐式目标投影本质,提出列表式策略优化框架实现精确投影,在15项设置中13项超越基线
将DuST对偶空间训练从二值正确性判别扩展至测试用例粒度,分解梯度冲突并蒸馏细粒度正确性结构,解决代码生成RL中通过率奖励误校准与信用分配粗糙的双重瓶颈
通过参数共享的对抗自博弈框架,将上下文干扰从推理失败模式转化为训练信号,4B模型生成的诱骗提示使GPT-5.1和Gemini 3 Flash准确率下降约4-5分
提出代码即推理者范式,4B模型超越235B,代码验证率达99.2%
基于RL推理改善的稀疏策略选择本质与熵极性理论,提出将训练数据工程从轨迹级粒度重构为决策点级粒度,以熵极性作为数据质量核心门控信号
Apple系统性揭示前沿推理模型面临精确计算崩塌,思考投入随复杂度先升后降,三体制图谱重新定义推理模型能力边界
针对自主数据工程等树结构搜索任务智能体,提出分支感知在策数据演化框架,将线性轨迹在策演化扩展至分支依赖、延迟验证的树结构搜索场景
揭示RL训练推理的计算量遵循幂律T∝D^γ,且逻辑表达力越强指数γ越大(1.04→2.60),反驳长程推理局限是架构根本缺陷的观点
针对科学发现智能体训练数据系统性缺失失败知识的问题,提出 FAIL-DATA 框架,通过失败轨迹挖掘、失败感知假设增强和验证闭环校准三阶段注入失败知识并保持假设多样性
系统评估8类任务发现RL推理训练使规范博弈率提升32-170%,编码环境高达301%,当前缓解手段均无法根除
诊断异构策略间经验共享中的三类保真退化(分词边界漂移、能力曲线错位、奖励语义漂移),提出自适应策展框架CROSS-FIDELITY实现保真感知的经验筛选与优势校准
诊断迭代RL训练中过程奖励模型的三类鲁棒性退化模式(流式-逻辑解耦、奖励景观膨胀、风格捷径寄生),提出准则锚定的周期性校准框架PRM-GUARD
从Stackelberg博弈视角揭示迭代RLHF系统性对齐崩塌机制,提出FPO远视策略优化恢复被丢弃的参数引导梯度项
OpenAI与Anthropic同日创立企业级合资公司,中国大模型融资规模与估值双双飙升,行业从技术竞赛进入商业变现与资本博弈并行的新阶段
揭示RL对LLM推理的改进仅作用于1-3%的高熵决策点,提出无需RL的ReasonMaxxer方法,成本降低约1000倍
统一解决RLVR训练中智能体漂移与多样性坍缩的对抗性轨迹数据工程框架
通过在残差流中识别并校准 overthinking/overacting 漂移轴,TACT 在不修改模型权重的前提下将 SWE-bench Verified 解决率提升 +5.8pp,同时减少 26% 步数
针对自进化智能体技能库在持续演化中的规约保真性问题,提出 SKILL-VERIFY 框架,通过技能规约契约化、对抗性探针合成与契约锚定修复实现技能语义漂移的主动诊断与修复
微软提出规模化合成计算机环境,为长周期生产力智能体生成训练数据
针对 ProgramBench 揭示的代码生成→软件工程能力鸿沟,提出行为等价驱动的训练数据工程框架 BEQ-SYNTH,通过行为规约挖掘、架构推理轨迹合成和行为差距驱动的迭代验证数据构建,系统性地填补全程序合成训练数据空白
从NVIDIA-康宁光通信联盟到Anthropic营收反超OpenAI,2026年Q2 AI产业正经历基础设施重构与Agent商业化双重拐点
提出 ORCH-DATA 框架,将多智能体代码生成中的编排决策显式建模为一等训练数据对象,通过编排模式挖掘、反事实编排增强和编排-能力共进化课程解决多智能体协作训练数据质量瓶颈
提出 REWARD-GUARD 框架,通过诊断策略-奖励共进化中的内奖励漂移模式(自洽漂移、锚点遗忘、分布坍缩),利用可验证外部信号作为锚点进行周期性校准,保障自进化智能体内奖励的忠实性
提出 REMEDY 框架,通过统一诊断多种推理退化模式(模板坍缩、信息自锁、早期漂移),设计针对性训练轨迹修复策略,闭环提升多轮 Agent RL 训练的推理完整性
用模型自身置信度(self-certainty)替代外部验证奖励,实现完全无监督的推理强化学习
从7250亿美元基建狂潮到Anthropic收入反超OpenAI,AI行业正经历从模型竞赛到商业落地的结构性转折
当推理预算纳入考量,Chinchilla法则推荐的大模型被小模型+过度训练碾压——统一训练与推理的T²缩放定律
提出能力前沿感知的对抗性问题合成框架,通过分析代码推理智能体的系统性失败模式,自动合成精确打击能力边界的新训练问题,实现问题池与智能体能力的共进化
揭示 DeepSpeed 与 OpenRLHF 中的 SFT 训练 Bug 如何系统性压低基线,导致混合策略方法的改进被严重高估
提出一种系统化合成工具组合边界场景的框架,通过建模技能依赖关系和在线对抗性环境生成,解决当前 Agent RL 训练数据在多工具组合推理上的覆盖不足问题
揭示扩展思维链并非越多越好——过度思考导致模型放弃正确答案,边际收益递减甚至转负
提出沿袭感知的轨迹数据工程框架,解决自主科学智能体训练数据冗余与同质化问题
MIT的AI世界建模分类法揭示了从预测器到演化器的能力层次演进。本提案提出AI世界建模数据合成框架,为L1-L3能力层次构建结构化训练数据,解决环境交互和主动重塑的数据瓶颈。
深入解读 GPT-5 的技术细节
Nexus-AIDATA harness 上一道供水抢修计费纠纷处置题的端到端走读。覆盖双容器硬隔离、17 张 mock 表的 DATA_PATCH_B64 注入、15 条三层 verifier check、15 个真实 step 的轨迹回放,以及最终 12/15 = 0.800 的总分是怎么打出来的。
Google DeepMind的Decoupled DiLoCo架构为大规模合成数据训练提供了新可能。本提案探索在解耦孤岛架构下,如何优化合成数据配比策略,实现故障弹性与训练效率的平衡,为下一代分布式AI训练提供数据工程解决方案。
提出一种基于 LLM 的高质量数据合成方法
Google DeepMind的Decoupled DiLoCo和MIT的RUBICON架构揭示了AI基础设施的系统级重构趋势。本提案提出多模态Agentic Coding数据合成框架,解决视觉-代码协同推理的训练数据瓶颈,为下一代编程助手提供真实的多模态交互轨迹。
GPT-5.5 在 Terminal-Bench 2.0 上 82.7% 的成绩标志着 Agentic Coding 进入新阶段,但训练数据极度稀缺。本提案提出一套从轨迹采集到自主进化的数据飞轮体系,解决当前 Agentic Coding 数据合成的根本性瓶颈。
从架构创新到工程实现,逐层拆解 DeepSeek-V4 系列的压缩注意力机制、mHC、Muon 优化器、FP4 量化训练、以及后训练流水线。
深入 APEX-SWE 评测框架的源码级分析:25 个多服务集成任务 + 25 个生产故障调试任务,Docker Compose 编排、MCP 工具服务、两套完全不同的 Agent 交互模式、F2P/P2P 评分机制,以及与 APEX-Agents/SWE-bench 的关键差异
从 World 数据结构到 MCP Server 源码,完整拆解 APEX-Agents 的架构设计——Google Takeout 真实数据、9 大 MCP 工具服务、Rubric 评分机制与 Leaderboard 分析
Snowflake 的 AWM 流水线从 100 个场景名出发,自动合成 1000 个代码驱动、数据库支撑的 Agent 训练环境,首次证明纯合成环境训练可以泛化到 OOD 基准。
CMU 提出的 Gym-Anything 框架将任意软件自动转化为 Agent 交互环境,通过多智能体协作完成环境构建,构建出覆盖 200 个应用、10K+ 任务的 CUA-World 基准。
基于 Mercor/Archipelago 源码,逐层拆解一个 Agent 任务从环境启动、MCP 工具注册、工具发现、LLM 调用循环到评分的完整执行链路。每个环节引用具体代码片段,让你既知道'做了什么',也知道'怎么做的'。
深入六大主流 Agent 交互范式的实际消息格式、系统提示词设计、动作空间与观测空间定义,逐一展示模型真正看到什么、输出什么、框架如何执行、结果如何回传
从任务设计、环境架构、执行流程、评分系统、数据格式五个维度,深入对比 Mercor 的两套 Agent 评测基准——APEX-Agents(专业服务)与 APEX-SWE(软件工程),附完整代码片段和 Task 示例
基于 20+ 核心论文的深度综述,系统梳理 Agent Gym 生态——从 Gym-Anything 的自动化环境构建到 SWE-bench、OSWorld、WebArena 等主流基准的全面对比分析
「Agent World」代表了 2025-2026 年 AI Agent 研究的三条核心线索:以 AWM 为代表的合成环境生成、以 AWorld 为代表的 Agent Harness 框架、以及多 Agent 社会仿真探索。本文系统梳理这三条线的技术架构、核心贡献与数据视角分析。
微软 DevBench 用 10 亿条真实开发者遥测数据定义 6 类任务 × 6 种语言的 1800 实例评测集,三维评估框架(功能正确性 + 相似度 + LLM-Judge)揭示了模型在代码生成上被单一指标掩盖的差异。
将 ADG 的回答散度信号与 CoDIT 的对比解码蒸馏结合,构建一个闭环的目标感知指令微调数据合成管线——先精确定位目标模型的能力边界,再在边界上合成纯能力信号数据
系统调研 13 个主流 Agent Benchmark 的配套执行框架(Harness),包括 SWE-bench/SWE-agent、OpenHands、Agentless、BrowserGym、OSWorld、APEX、AppWorld、τ-Bench、MLAgentBench、DevBench 等,从环境隔离、动作空间、评分机制、可扩展性四个维度进行横向对比,给出 Agent 评估体系设计建议。
将合成预训练数据策略建模为投资组合问题——基于 FinePhrase 1T token 实验的三维度发现,构建格式、生成器、源数据的联合优化框架
当前蒸馏和 SFT 数据合成普遍采用「先大量生成、再事后过滤」的两阶段范式,浪费 60-80% 的合成算力在对目标模型无增量价值的样本上。本提案设计一套在线信息增量度量机制,将目标模型的实时能力画像反馈到合成策略中,实现「只合成模型确实不会的数据」的自适应闭环,目标是在相同合成预算下将下游性能提升 15-25%。
基于 30+ 核心论文的深度综述(2026-04 更新),系统揭示 MLLM 在精细视觉感知上的根本性缺陷,涵盖六大根因机制解析、六大系统性解决路径与最新前沿突破
合成数据的爆炸增长让基准污染从「可检测的显式问题」变成了「沿血缘路径隐式传播的系统性风险」。本提案设计一套合成数据血缘图谱基础设施,结合 token 级过滤实现精确去污染,目标是在保留 95%+ 有效训练信号的同时将基准泄露率降至 0.1% 以下。
从预训练数据角度系统分析如何提升 VLM 的 STEM 推理能力。覆盖 InfiMM-WebMath-40B、Multimodal Textbook、InternVL3 原生预训练、Vision-R1 冷启动、Math-LLaVA Bootstrap、Socratic-Geo 合成等代表性方案,提炼出六条数据工程路线和四个未充分开发的数据金矿。
基于 MCP 协议的工程全链路 RL 训练环境设计——覆盖代码管理、k8s 运维、监控告警、数据库、Wiki、即时通信六大子系统,40 个分级任务,三层 Reward 架构
基于腾讯内部平台生态 + 外部开源框架,系统设计可落地的 Agent 强化学习环境矩阵(含 ToB 行业领域)
覆盖 20+ 领域的专用代码平台、包仓库、论坛与数据集,面向代码训练数据采集与领域建模场景
基于 APEX-Agents 框架的低成本数据构建方案:用 Agent 集群替代大部分专家角色扮演,通过专家关键节点介入保持数据质量,成本降至原方案 30-40%
Mercor APEX-Agents 基准测试的完整商业提案——2,620 个任务、8 大领域、专家评审体系、后训练效果验证与交付方案
当前合成数据生成面临两个互相矛盾的约束:提高多样性会降低质量,强化质量控制会收窄分布。本提案借鉴 Anthropic AAR 的多 Agent 研究范式和 GAN 的对抗训练思想,设计一个多角色 Agent 数据工厂,让 Generator、Critic、Diversifier 三类 Agent 在竞争-协作循环中自主演化生成策略,目标是在千万级规模下同时将语义去重率降至 1% 以下、下游任务增益提升 15-25%。
当前数据质量工具的 LLM 集成停留在规则生成层面,语义级验证完全空白。本提案设计一个以 LLM 为核心的多层语义验证流水线,覆盖事实一致性、逻辑连贯性、指令遵循度三个维度,目标是将合成数据的可用率从行业典型的 60-70% 提升至 90%+。
Agentic-MME(arXiv 2604.03016,2026-04)是首个统一视觉工具与网络搜索、并以过程级轨迹验证为核心的多模态 Agent 评测基准。本文解读其双轴设计、3 级任务体系、Overthinking 效率诊断机制及关键实验结论,并从训练数据视角分析其对多模态 Agent 数据构建的启示。
MolQuest(arXiv 2603.25253,Alibaba,2026-03)是首个基于 Agent 范式、使用真实化学实验数据的分子结构解析动态基准。本文解读其设计思路、任务形式化、数据构建管线、评测结果,以及对「AI for Science」方向和训练数据构建的深层启示。
Computer-Use Agent(CUA)领域从 OSWorld 到 EvoCUA 的系统梳理:核心论文解读、评测基准演化、世界模型引入(CUWM)、开源体系(OpenCUA/AgentNet)、训练数据构建方法,以及从预训练数据研究者视角的洞察。
普林斯顿/斯坦福团队围绕 SWE-agent 构建了一个完整的 Coding Agent 研究生态——SWE-agent → SWE-ReX → SWE-smith → mini-SWE-agent。本文从架构、ACI 设计哲学、数据生成、训练闭环到极简化演进做完整拆解,并评估其对 HarnessForge v2 的参考价值。
基于「轨迹优先」proposal 的工程落地方案。三阶段:Repo 筛选与里程碑规划 → CVM 持续开发与轨迹记录 → 轨迹切片与 Task 提炼。面向研发团队的完整技术文档。
Olmo3 语料库实证分析揭示,基准测试中语义重复的污染远比想象普遍,基准分数的提升可能掺杂了大量虚假信号
HKUDS 开源的轻量级 Agent Harness 框架,以 2.3% 的代码量实现 98% 的核心工具能力。本文从架构拆解、竞品对比、数据价值三个维度展开分析。
上海 AI Lab 的最新研究(arXiv:2604.06628)证明 SFT 泛化的关键不在领域知识,而在'程序性推理结构'——分解、回溯、验证等步骤。Apple 的 SSD 进一步证明模型自身的采样输出可以成为高质量训练数据。本提案将两者结合:从强模型的推理过程中自动提取'推理骨架',构建领域无关的中训练数据。
MiniMax M2.7 展示了模型递归优化自身 Harness 的能力——分析失败→修改框架→评估→保留或回滚,100+ 轮自主迭代。SkillClaw 则证明多用户交互轨迹可驱动技能集体演化。本提案提出系统化提取这类'元轨迹'作为中训练数据,让模型在权重层面理解'如何改进自己的工作流程'。
驱动模型进化的智能数据引擎——三层架构(Foundation → Pipelines → Portal)+ 贯穿式 Memory Layer,支撑持续数据生产、全球 SoTA 基准、前瞻布局
Together AI 的 CoderForge-Preview 是目前最大的开源编码 Agent 轨迹数据集。精读其数据管线、训练方法、关键设计决策,并分析其三个自承认的局限如何指向下一代数据合成的方向。
从'先设计任务再收集轨迹'到'先收集轨迹再提炼任务'的范式转变。三阶段解耦架构:Repo 筛选 → Harness 持续开发(完整轨迹记录)→ 轨迹理解与任务提炼。让数据说话,而不是凭空设计。
阿里云通义点金团队联合盈米基金提出的金融 MCP 工具调用基准。613 个样本、65 个真实金融工具、10 大场景——最强模型的精确匹配率仅 25.92%,多轮对话几乎全军覆没。
HarnessForge 多 Agent 任务工厂的具体开发计划,基于 HKUDS/OpenHarness 框架实现,包含架构设计、API 调用方式、目录结构和分阶段交付计划
用 Claude Code CLI + Python 编排脚本实现 6-Agent 代码任务工厂,可直接在终端执行
从精选 GitHub Repo 的 release 历史中,通过 6 个 Agent 协作流水线,批量生产带完整探索轨迹的中高难度代码开发任务。本文档是可直接交给 Coding Agent 执行的完整规格书。
ProductResearch(2602.xxxxx)展示了将 Deep Research 范式迁移到电商垂直领域的成功案例。本方案提出将这种'垂直领域 Deep Research 轨迹蒸馏'方法系统化,从电商推广到法律、医疗、金融等高价值垂直领域。
Adaptive Training Data Synthesis 的核心思想是'根据模型当前的弱点动态调整合成数据的分布'。本方案将其系统化为一个闭环数据工程框架,适用于中训练和 SFT 阶段。
从精选 GitHub Repo 的演进历史中,通过五角色 Agent 协作,合成长程复合开发任务、重建真实开发者的丢失探索过程、自动标注真实难度。目标产出 3,000-5,000 个经验证的中高难度 RL 训练任务。
NL2Repo-Bench 暴露了当前模型在 repo 级代码生成上的惨淡表现(最佳 Pass@1 仅 19.39%)。本方案提出以仓库依赖图为骨架,构建'先理解架构再写代码'的中训练数据。
Nature 发表的 BioMedAgent 展示了多 Agent 自主完成生物信息学全链路的能力。本方案提出从这类系统的执行日志中系统性提取'工具选择→参数调整→结果解读→下一步决策'的完整科研推理链。
受 Prefix-Guided Preference Data Synthesis 启发,提出将前缀引导策略从 DPO 偏好数据扩展到中训练阶段,利用不同质量前缀诱导模型生成质量梯度数据,构建内含对比信号的中训练语料。
受 DeepResearch-9K 的三级难度设计启发,提出一套从 L1 到 L5 的渐进式搜索推理数据构建方法,让模型在中训练阶段就学会'什么问题需要搜几步、搜到什么程度停'。
ICLR 2026 的 ThinkMorph 证明了文本和图像交替思考比纯文本 CoT 更强。本方案提出系统化构建这种交错推理数据的方法,让模型在中训练阶段就习得'该画图还是该写字'的判断。
受 MART 和 MTSA 的多轮红队对抗范式启发,提出将攻击-防御博弈的完整轨迹转化为中训练和 SFT 安全数据,让模型学会'在第 N 轮被绕过后如何恢复防线'。
受 ASTRA 框架启发,提出从 MCP 注册表中自动采集真实工具交互轨迹,通过沙箱执行验证构建中训练数据,让模型在权重层面学会'工具是怎么被串联使用的'。
KLong 的 trajectory-splitting SFT 揭示了一个被忽视的数据工程原理:长轨迹不需要整条喂给模型,拆解后的子轨迹才是最高效的训练信号。本提案将这一原理从 SFT 推广到中训练阶段,提出一套完整的长轨迹采集→分裂→质量控制→注入的数据管线。
ICLR 2026 的 TRACE 框架提出了自演进 Benchmark 的方法论——Agent 在测试时探索、产出新任务、新轨迹。本提案将这一范式从评测侧翻转到数据生产侧:让 Benchmark 系统在运行过程中持续输出训练数据,实现评测与数据生产的统一。
Deep Research 是 2026 年最热的 Agent 能力方向,但训练数据极度匮乏。本提案从 InfoSeek 的 Research Tree 思路出发,提出一套更适合中训练阶段的搜索轨迹数据合成方法——不模拟搜索行为,而是从已有的高质量长文中逆向拆解搜索过程。
GitHub 上每天有数百万次 CI/CD 构建失败。每一次失败都包含一个完整的「症状→诊断→修复」推理链。本提案提出系统化挖掘这些公开可用的失败日志,构建代码错误诊断的中训练数据。
学术海报(poster)是一种独特的多模态知识载体——它在一张图中交错排布文字、图表、公式、流程图,读者必须沿非线性路径理解。本提案提出从学术海报自动构建视觉-语言交错推理链数据,填补当前多模态中训练数据中'结构化视觉推理'的空白。
斯坦福 Scaling Intelligence Lab 提出的 KernelBench 基准,系统评估 LLM 编写 CUDA 内核的能力。本文从论文动机、数据集设计、评估体系、实验结果到生态后续全面拆解。
精读字节跳动 Seed 联合南大、北大等提出的 NL2Repo-Bench:首个端到端仓库生成基准,给一份需求文档从零构建完整 Python 库。104 个任务、9 个领域、严格 pytest 验证。Claude 4.5 最高 40%,GPT-5 仅 22%,暴露了长程规划、架构设计和自主执行的巨大 gap。
五大科研/工程 Agent 评测基准的系统对比与深度解析:从博士级科学推理到论文复现到 Kaggle 竞赛,涵盖构建方法、任务示例、模型表现、评估设计,以及当前不足与未来基准方向的展望。
从函数级到仓库级,从文本到多模态——18 个主流及新兴 Benchmark 的系统梳理、横向对比与趋势判断
系统梳理五篇代表性多模态模型技术报告在预训练阶段的核心设计:数据规模与来源、预训练阶段划分、视觉/音频编码器设计及关键工程实践,聚焦数据视角的横向对比。含 Qwen3.5-Omni 全模态模型和 GLM-5V-Turbo 多模态 Coding 基座。
系统梳理多模态大模型的预训练数据体系:组合式多模态(LLaVA 范式)vs 原生多模态(Chameleon/Gemini/Llama 4 范式)的架构差异、训练阶段、数据类型与配比、Scaling Law,以及关于原生多模态训练的实操建议。
系统梳理大模型 STEM 数据构建(数学/科学/工程推理)的方法论演进,从纯文本合成、多模态视觉 STEM 到原生多模态 STEM 数据的前沿展望
一个直面 Agentic Coding 评估痛点的工作——如何构建不被模型记忆知识作弊的基准,以及如何用 SFT+RL 让 8B 小模型超越 GPT-4o
从架构哲学、训练策略、评测表现到工程落地,系统对比阿里 Qwen3.5-Omni 的 Thinker-Talker MoE 架构与字节 Seed 全模态生态的技术路线差异
系统梳理大模型代码训练数据的构建方法论,覆盖纯文本预训练数据、指令合成数据、多模态代码数据三条路线,并展望原生多模态模型的代码数据构建范式
系统梳理 STEM 领域大模型长上下文训练数据的构建方法,覆盖数学长推理链、科学文献理解、结构化数据增强三条路线
系统梳理代码大模型长上下文训练数据的构建方法,覆盖预训练数据组织、仓库级对齐、SWE Agent 训练数据合成三条路线
系统拆解多模态大模型训练数据相比纯文本 LLM 的工程差异——从数据源、处理管线、质量过滤到存储格式,并识别五个值得深挖的数据机会
系统梳理大模型长上下文训练数据的构建方法论,覆盖文本长文、多模态长文、原生多模态三条技术路线
十类 LLM/多模态 Agent 的系统梳理:各类型覆盖能力、代表评测基准(含链接)、典型任务示例、业界主流优化手段,以及纯语言模型 vs 多模态模型的能力边界对比。含 Search Agent、Data Science Agent、GUI Agent、Mobile Agent 专项。
北大团队提出 Agent 驱动的数据准备系统与数据-模型交互训练范式,重新定义 LLM 训练中的数据角色
系统性调研 2024-2026 年 Omni(全模态)大模型的技术演进,覆盖 GPT-4o、Gemini 2.x、Qwen3-Omni、Janus-Pro、Emu3、BAGEL、Chameleon、Transfusion 等 15+ 模型,从架构范式、视觉 Tokenizer、数据工程、训练策略、评估基准五个维度展开深度对比
系统梳理 15 家国外主要 AI 训练数据公司的 Data Engine 定位、核心产品、技术差异和商业模式。覆盖人工标注、合成数据、开源工具、Agent 专项四条路线,并给出 Agent 数据团队的实操启示。
系统梳理多模态模型与纯文本模型在代码数据上的核心差异,覆盖 Code-Vision 配对、UI2Code、代码执行视觉反馈、技术文档理解四大方向,附完整构建管线与关键差距分析。
利用维基百科 edit history 中的带时间戳知识变更记录,构建三类高价值时间感知训练数据集,从根本上提升 LLM 的时间感知能力与知识不确定性表达能力。
系统性研究提案,探讨如何将维基百科 6800 万条编辑历史转化为幻觉检测、写作改写、知识抽取、中立性训练等多维度高质量训练数据,重点拆解幻觉检测数据的完整构建 pipeline 与规模估算。
同样的维基百科原材料,不同的组织方式产出的训练数据质量差异显著。本文提出从时序演化、多语言对齐、知识图谱三个维度系统性地重组维基百科,将其内嵌的组织结构转化为显式训练信号。
一个面向大型多模态模型(LMM)的视频教程步骤标注数据集构建方案,聚焦编程/技术操作类视频的步骤依赖关系与操作意图标注。
现有工具调用训练数据只记录「用了什么工具」,缺少「为什么选这个而不选那个」。本文提出一种基于三元组对比数据的构建方案,旨在让 Agent 学会工具边界的判断力,而非靠记忆背答案。
本文提出将工具调用失败模式作为独立研究对象,系统化构建 Agent 鲁棒性训练数据的研究方案。从失败类型分类、日志挖掘、数据格式设计到评测体系,提供一套可操作的完整路径。
一份关于构建「科学图表问答蒸馏数据集」的研究提案,以 arXiv 论文为数据源,利用正文段落作为外部 ground truth,生成具备可程序验证答案的多难度层次图表 QA 数据。
单点深推、多源整合、执行验证、批判性评审——四条科研能力数据构建路线的整体框架与组合使用指南
一个被忽视的视角:不同 Sandbox 配置下同一实验的差异化结果,天然构成高质量的错误诊断训练数据
OpenReview、WithdrarXiv、OSF 三类开放数据的系统性利用方案:将「专家批判」「作者自纠」「预注册偏差」三种错误信号转化为高质量中训练数据,填补预训练语料中「评估性推理」的结构性空白。
当前多 Agent 系统的核心瓶颈不在于单 Agent 能力,而在于协调失败。本文提出一套针对协调失败模式的训练数据构建方案,包括轨迹格式设计、数据构建路径及与现有工作的对比分析。
提出一种从 GitHub Issues/Discussions 系统化采集论文复现诊断对话的方法,论证其作为训练数据的独特价值,并给出完整的采集、筛选与应用技术方案。
提出用形式化验证(Lean/程序执行/LLM交叉检验)作为数据质量门控,在中训练阶段构建高质量推理链语料,从数据源头提升模型推理倾向,而非依赖事后奖励模型训练。
一个以「能力维度不变、题目持续更新」为核心设计原则的 LLM 评测框架,系统性解决 benchmark 污染与饱和问题,并作为训练数据改动效果的早期信号层。
提出一种面向 AI 原生数据团队的结构化数据集描述规范,弥补现有 Model Card / Data Card 在 Agent 决策场景下的不足,并给出完整的 schema 设计与自动化维护策略。
内部质检 Agent 的执行轨迹是一种自带外部现实锚点的高质量训练数据源。本文提出系统收集这类轨迹数据的研究方案,论证其独特价值,并给出可立即启动的落地路径。
提出一种基于 GitHub 开源仓库的多模态训练数据构建方案,通过爬取 README 中的技术图表并与对应代码对齐,形成「代码描述↔图像↔图表文字」三元组,以填补现有多模态数据集在技术图表理解上的缺口。
自动化科研是下一代AI模型的核心竞争力。本提案论证其行业重要性,梳理站内已有的数据构建思路,并展望尚未探索的数据方向。
提出一套针对 Agent 元认知能力的训练数据构建方案,覆盖三种典型元认知场景(不知道自己不知道、知道自己不知道、知道什么时候该停),并给出可操作的数据格式、采集流程与评测方法,重点落地于数据工程 Agent 场景。
综述文章是「多源信息→结构化知识」的最终产物。反向来看,已有的数千篇 survey 就是高质量的训练数据素材——给模型原始论文集合,让它独立完成综述写作过程,以原始 survey 作为参照,系统性构建多源整合能力的中训练数据。
自动化科研的数据飞轮方案:从真实论文反向生成课题假设,再正向推导完整研究过程,以「可验证的参照物」闭合评估,过程轨迹直接注入中训练,系统性提升模型科学推理能力。
Papers with Code 上 10 万+ 论文是天然的训练数据素材。给模型论文 + 代码仓库,要求它复现核心实验、结果和原论文对齐——产出的执行轨迹是目前质量最高的科研能力训练数据,直接对应 terminal-level 的科研执行能力。
2026年3月23日,黄仁勋在Lex Fridman播客谈了150分钟。AGI已来、Token工厂、工作的未来、中国AI生态、品格是护城河——这是一次关于整个时代的公开推导。
DeepMind Philipp Schmid 的金句背后,是一套完整的数据工程范式转移。本文深度解析这一洞见对大模型预训练数据、中训练数据构建的具体启发,并给出可操作的数据飞轮方案。
外部已有明确信号,内部已有散点探索,现在需要做的是从组织和系统层面把这件事设计清楚。这篇报告说三件事:方向判断、什么是真正的 AI 原生、以及可操作的推进路径。
Agent 开始真正执行代码、调用 API、访问文件系统——Sandbox 从「可选的安全措施」变成了「可用 Agent 的前提条件」。本文系统梳理 2025-2026 年 Sandbox 的技术格局、核心安全挑战,以及我们在数据团队 AI 原生化过程中需要面对的 Sandbox 问题。
从 Terminal-Bench 种子方案出发,批判性审视'Skill 图谱→采样反推任务→轨迹生成→训练'的通用数据飞轮思路,提出改进后的 SkillWeave 研究框架
一个走 Skill 即 Markdown 的极简工程路线,一个走多智能体 + 持久记忆的自进化学术路线。当 AI 真正成为科研伙伴,哪种范式更有生命力?
从 OpenSpec 出发,系统研究 AI 编程时代的三大规范框架,分析其对数据工程团队的实际价值与落地路径
从 Prompt Engineering 到 Context Engineering 再到 Harness Engineering,系统研究这一 2026 年最热门的 AI 工程新范式——它的起源、核心理念、三大支柱、实战框架与行业争议。
OpenAI 推出的新一代科学推理基准,包含奥赛级和博士级研究问题,GPT-5.2 最高仅 25% 的 Research 得分揭示了 AI 科学能力的真实天花板
系统梳理 The AI Scientist、EvoScientist、ScienceClaw、DeepScientist 等代表性系统,分析自动化科研的演进轨迹、技术架构与工程启示——特别是对训练数据合成的深层影响。
全面调研 2026 年 AI Agent Skills 生态系统——覆盖 12+ 平台、50 万+ Skills、30+ 兼容工具,深入分析各平台的规模、分类、安全机制、商业模式与技术架构
系统梳理 OpenAI 在 AI for Science 领域的全面布局——组织架构、产品矩阵、模型能力、安全研究与商业模式创新
系统性解析 Chameleon、Transfusion、Emu3/3.5、Janus-Pro、InternVL3、BAGEL 六大代表性模型的数据建设方案,覆盖 Tokenizer 设计、交错数据构建、数据配比策略、Scaling Law 与质量工程,引用 30+ 篇 2024-2026 核心论文
一家 Spark 公司如何用 12 年时间重新定义数据平台,并在 Agent 时代押注全栈 AI 原生架构
Yann LeCun & Saining Xie 领衔 21 位研究者,从零开始训练统一多模态模型,发现 RAE 统一视觉表示、视觉-语言协同效应、世界建模涌现、MoE 调和扩展不对称性四大关键洞察
覆盖预训练/中训练/后训练全阶段,涵盖 Code Agent、Tool-Use Agent、Search Agent、GUI Agent、多模态 Agent 五大类型,基于 50+ 篇核心论文整理
全球最热门的 AI 编码代理方法论框架如何重塑软件开发,以及对数据管道 TDD、建模规范、训练数据构建的深层启示
NVIDIA 22 位研究者提出 Agentic Variation Operators,AI Agent 在 Blackwell B200 上连续 7 天自主进化,生成的注意力内核超越 cuDNN(+3.5%)和 FlashAttention-4(+10.5%)
深度对比 TB-QA 与 TASK_IMPLEMENTATION_RUBRIC 两套评测体系,提炼 22 条 RL 训练适用的综合评审标准
基于 HuggingFace 公开数据,对 Terminal-Bench 2.0 全部 89 个任务、39 个 Agent+Model 组合、10677 次试验的逐一拆解与全景洞察
Data Darwinism Part II —— 让 AI 自主进化清洗策略的闭环框架,在 Nemotron-CC 672B tokens 上生成 Darwin-CC
构建一套 AI 自主驱动的数据进化系统——模型自己发现短板、自己生产数据、自己验证效果、自己迭代优化,6 个月 5 大支柱的完整项目方案
系统分析为什么直接用 PR 数据训练只是高级版代码补全,以及如何设计真正提升深度代码理解、环境推理与验证能力的训练任务
从 DeepSeek-V1 到 DeepSeek-V3/R1 的完整技术演进,解析 MLA、DeepSeekMoE、FP8 训练等核心创新。
从 FineWeb 到 DCLM,从合成数据到课程学习,系统梳理预训练数据领域的最新突破。
从 Top-K 到 Expert Choice,从固定路由到自适应路由,系统梳理 MoE 路由策略的最新研究进展。
阿里 ROLL Team 的 iFlow-ROME 30B MoE 模型及 Agentic RL 实践总结
数据去重策略与模型规模的关系研究
Agent 能力评测新基准 PinchBench 的设计与洞察
五层数据金字塔框架 + 7 条创新思路,覆盖预训练到 RL 全链路数据策略
竞争格局、商业逻辑、技术护城河、行业影响四维度深度剖析
NVIDIA Nemotron-3 系列模型的深度技术解读
探讨 LLM 在长篇叙事理解中的信息丢失与追踪能力
ICLR 2026 Poster——构建真实场景工具使用 Benchmark
86 个任务、7308 条轨迹——Agent Skills 策划 vs 自生成的定量对比
简单对话驱动的通用 Agent 强化学习训练框架
百万级别 benchmark 的设计理念与评测方法论
LLaMA 3.1 基座、15 代迭代、Instagram/WhatsApp/Messenger 三端部署
Sparse Autoencoder 引导的数据选择 + 领域特定结构化剪枝联合方法
按需工具发现与加载机制、Just-in-Time Retrieval 及行业实践
系统评估 Prompt Caching 在长视野 Agent 任务中的效果与优化策略
Optical Compression 与 Visual Causal Flow 两篇合并精读
LLM 终端能力评估基准测试——2023-2026 核心工作
基于 ClawHub Skills 种子的终端 Agent 训练数据合成(CPT/SFT/RL)
Benchmark、Agent、训练环境、RL 方法、验证器全链路——33+ 项目 1313 行
覆盖 11 种编程语言的自动化 SWE 基准生成方法
COLM 2026 论文完整中文版——SkillTerminal-Corpus 12K 任务 52K+ 轨迹
COLM 2026 完整论文——基于技能图谱驱动的终端智能体数据合成
15 万+ 技能、4 种关系、5 维评估——面向 AI Agent 的大规模技能图谱
SkillNet + ClawHub 融合的 Skill-Aware 科学数据构建框架 V2
80B/3B 激活 MoE 架构,166 万可验证任务,SWE-bench 70.6%
系统综述 6 类 Hack 实例、7 篇核心论文及工业界防御策略
代码大模型、Agentic Coding、训练方法、评测基准、工具基础设施全景覆盖
Claude 4.6、GPT-5.3、Qwen3-Coder-Next、GLM-5 等 7 大模型对比
覆盖 12 个核心项目的行业趋势、商业 Agent 产品、开源框架及训练方法论
阿里通义团队提出 Environment Scaling 方法提升 Function Calling 泛化能力