大模型前沿动态 · Vol.131

谷歌 Gemini agent 把底层模型改成可选项,RLVR 探索被拆成独立策略,条件记忆成为可编辑知识接口

谷歌发布 Gemini agent,底层模型可在 Gemini 与 Claude 间动态选择;哥伦比亚大学提出 ExpDis,把 RLVR 的探索与优化拆到两个模型上;EngramEdit 把条件记忆改造成可编辑的知识接口;一项剂量-反应实验显示加长思考并不减少决策偏差。

大模型 Google Gemini Agent RLVR 强化学习 探索与利用 知识编辑 条件记忆 Engram 推理模型 认知偏差 测试时算力 多模型路由

今天四条动态都在做同一件事:把原本绑在一起的两样东西拆开——模型与 Agent、探索与优化、知识存储与通用计算、思考长度与理性。前三条拆完各自拿到了独立的量,第四条拆不动,加算力并不减少偏差。

一、谷歌把「Agent」和「模型」拆成两层,底层模型可以选 Claude

事件概述 10 月 8 日,Google Cloud 博客发布由 CEO Thomas Kurian 署名、改编自 Gemini at Work 2026 主题演讲的长文《Welcome to Gemini at Work 2026: Introducing the Gemini agent》,推出名为 Gemini agent 的单一通用办公智能体。10 月 9 日凌晨国内媒体跟进解读。此前 9 月 29 日 OpenAI 发布可 7×24 小时运行的 Dots,Meta 推出 Muse,三家在办公智能体上正面碰头。

技术解析 官方给出的架构原则里,有一条与过去的产品逻辑相反:「Gemini 是 agent,它下面的模型是另一回事」。Gemini agent 可以在自家 Gemini 系列与 Anthropic 的 Claude 之间按任务动态选择,未来接入更多闭源与开源模型,配套 Smart Routing 做自动路由,一个项目内部也能把不同环节分给不同模型。官方明确的理由是「最适合任务的模型不总是最大的那个」,且「领先模型每几个月就换一次」,把选择权留着,上下文、Skills 和企业数据不必跟着推倒重来。

Agent 一侧被拆成三件可独立配置的资产:工具(Confluence、Microsoft Office、Teams、Slack、Workspace、Git、Jira、Salesforce、ServiceNow、BigQuery、Databricks、Postgres、Snowflake)、Skills(以模块化提示存放的可复用流程,公司可发布到共享注册表)、四类记忆(session 记忆管跨天的当前任务,semantic 记忆是从文档与协作中积累的结构化知识库,procedural 记忆记某类工作该怎么干且允许 agent 自己写 Skills,episodic 记忆记做过什么)。企业还能创建 Coworker agent,拿到独立 Workspace 账号、邮箱、日历、Drive 与通讯录席位。

治理部分回答四个问题:它是谁(密码学attested 的身份、最小权限)、能做什么(OAuth 传播身份的细粒度授权)、做过什么(审计记录归属 agent 而非人,身份带进它自己拉起的虚拟机)、绝不能碰什么(Agent Gateway 做 AI 网络防火墙,全部 agent 在 Agent Sandbox 内执行)。成本控制给了实时支出上限:项目级硬限额触发后该项目的 agent 暂停,可按项目把开销归到部门。

官方数字包括:每 token 价格自 2024 年以来降 98%;最新 TPU 8i 系统价格性能提升 80%;过去一年近 500 家客户各自处理超过一万亿 token;近 80% 的 Google Cloud 客户在用其 AI 产品;Fortune 100 中近 90% 在用 Gemini Enterprise;PayPal 每周路由 1000 万次多模型请求;Bloomberg Media 把数据 agent 接到 Knowledge Catalog 后 SQL 查询准确率在开发期提升 63%;Snap 的技术诊断排查从 30 分钟降到 30 秒。

行业影响 把模型层从差异化资产降级为可替换后端,护城河移到记忆、Skills、治理与成本控制这一层。对模型厂商来说,这意味着自己可能只是别人 Agent 里的一个可替换供应商——谷歌连竞品都安排进去了。反过来,企业买的不再是「哪个模型更强」,而是「谁的编排与审计更可查」。这条路线也顺带承认了一件事:自家模型并不是每个环节的最优解。需要注意的是,文中绝大多数收益数字来自客户自述(SOMPO 把新模型开发从一周压到一天、Bradesco 文档审阅从 1 小时到 5 分钟),没有统一的评测口径,只能当作部署规模的信号,不能当作能力对比。

相关链接:Google Cloud 官方博文|量子位解读

二、RLVR 把探索从优化里拆出去,学生模型不再继承探索的代价

事件概述 10 月 7 日提交至 arXiv(编号 2610.10536),哥伦比亚大学 Saif Punjwani 与 Micah Goldblum 提出 Exploration-Distillation(ExpDis),CC BY 4.0,代码与 checkpoint 一并放出。它处理的是 RLVR 的一个老问题:把新奇性奖励直接加进目标,探索带来的退化没人负责修。

技术解析 做法是让两个模型分工。Explorer 带新奇性奖励(主实验用 RND:在模型自己的隐藏状态上训一个小 predictor MLP 去拟合冻结的随机 target MLP,用逐层均方根预测误差当新奇度),它的轨迹按正确性与质量过滤后蒸馏进 student;student 从头到尾不碰新奇性奖励,只用标准正确性奖励继续 RLVR。两者只通过过滤后的轨迹通信,不共享参数。预算固定为 300 步 RL、每步 4 个 prompt、group size 16、最大生成 32,768 token,其中 explorer 200 步、student 100 步,student 的 SFT 阶段两 epoch、每轮最多 500 条轨迹。基座是 Qwen3-1.7B、Qwen3-4B、Ministral-3-3B-Instruct-2512,数据取自 DAPO-Math-17K,七个数学基准里去掉接近饱和的 GSM8K 与 AMC23,报剩下五个的均值。

关键对照在五基准均值 pass@1 上(Qwen3-1.7B):Base 43.42、DAPO 45.63、DAPO 跑 4 倍步数 47.28、DAPO 直接加新奇性奖励 45.08、ExpDis 单轮 48.93、ExpDis 多轮 51.81。pass@64 上差距更大:73.82 / 74.64 / 76.24 / 74.43 / 77.83 / 83.04。Qwen3-4B 是 61.06 / 62.58 / 63.64 / 62.20 / 64.69 / 66.50,pass@64 到 87.63 对 DAPO 的 81.14。Ministral-3-3B 是 27.95 / 29.63 / 30.90 / 29.21 / 32.16 / 34.76。

直接给 DAPO 加新奇性奖励在三个模型上全部低于纯 DAPO,并且在 MMLU-Pro、MMLU-Redux、GPQA-Diamond、ZebraLogic、IFEval 这些通用能力上跌破基座——作者给出的解释是可验证奖励只监督模型知识里极窄的一片,模型忘掉大半维基百科照样拿高分。ExpDis 里 explorer 被推到远高于 DAPO(+novelty) 的 token 熵也不影响 student,权重 λ 到 2 时 explorer 自身 pass@k 回退,student 不继承。换成 kNN 或 Elliptical 新奇度,均值仍分别是 47.37 与 48.06,都高于 DAPO 4 倍步数的 47.28。固定预算下加轮次比加 explorer 数更涨 pass@1,两者一起对 pass@64 最好,超过 3 个 explorer 与 4 轮之后收益饱和并出现回退迹象。

行业影响 这套框架把「探索」变成一件可以外包、可以丢弃、可以并行的事。过去在单模型里,探索和优化是同一组参数在拉扯:想多探索就得容忍暂时变差。拆开之后,失败只发生在永不部署的那半个模型上。这也改变了对 diversity 的看法——student 的词面多样性逐轮下降而准确率上升,说明词汇多样性不是好的探索目标,语义多样性才是。自陈边界有两条值得留意:新奇性奖励会让推理忠实度下降;实验只做数学,explorer 与 student 同架构,作者在 Discussion 里点名长程 agentic、定理证明、开放式科学问题才是真正需要激进探索的地方。

相关链接:arXiv 摘要页|arXiv 全文 HTML

三、条件记忆成了可编辑的知识接口:EngramEdit

事件概述 10 月 7 日提交(编号 2610.10533,8 日上线),作者来自香港理工大学、中国科学技术大学与杭州迪根斯生物,提出 EngramEdit,把 DeepSeek Engram 那类条件记忆架构从「扩容手段」改造成「知识编辑接口」。

技术解析 条件记忆用输入 n-gram 去查学习到的 embedding,用很小的额外算力换容量。它天然具备知识存储与通用计算分离的可能,但真要拿它改事实,有两个坑:同一事实的不同表述会激活不同的 n-gram embedding,改一个共享 embedding 又会连带改动别的事实。EngramEdit 的处理是三步——先生成同一事实的多种表述并联合求出让模型在这些表述下都预测更新后事实的 target 记忆表示;再跨表述、跨编辑联合求解共享 n-gram embedding 去匹配这些 target;最后按复用频率与 n-gram 长度加权正则化,对高频复用、长度短的 embedding 改动罚得更重。

CounterFact 上做 2000 次顺序编辑后:Efficacy 99.5±0.31、Generalization 97.0±0.69、Specificity 85.2±0.92、Utility 93.9、Fluency 565.2±1.10、Consistency 16.1±0.36;ZsRE 上 Efficacy 97.3、Generalization 93.7、Specificity 38.3、Utility 76.4。消融里掉得最狠的是去掉联合分配:CounterFact 的 Efficacy 落到 74.5、Generalization 落到 72.8,ZsRE 落到 57.4 与 58.3,说明跨表述联合正是跨表述召回的来源。MQuAKE 多跳上,标准提示与 FT 接近,换成 CoT 后接近最强基线的 3 倍,四跳仍保持优势。

通用能力方面,5000 次顺序 CounterFact 编辑后六项任务的平均 F1 保留 96% 以上,掉得明显的是 MRPC——句子对会激活不同 n-gram,局部改动改变了等价判断。作者还给出一条负面证据:无关查询上的新错误里,92% 以上涉及被更新 embedding 的激活,也就是说编辑的副作用已经被定位到了具体机制,而不是笼统的「改坏了」。ZsRE 的 Specificity 上,FT-L、AdaLoRA、UnKE、MoEEdit 反而更高,作者指出 Specificity 同时计入「新答对的」和「保留答对的」,并做了正确性转移分析,说明那些增益来自把原本答错的无关题改对。

行业影响 这条线的意义不在编辑分数本身,而在于它给条件记忆找到了第二种用途。DeepSeek Engram、Qwen3.8-Next 这类架构此前被当成扩容与效率手段,现在多了一层:权重不动,知识接口可改。对需要高频纠错的场景(产品目录、法规条款、人员信息)这比重新微调便宜得多。安全面也随之出现——作者在 Ethics statement 里主动写明「修订知识的能力也可能被滥用于引入虚假或误导内容」,要求验证事实更新、把编辑权限限定给授权用户、审计预期与非预期影响。换句话说,编辑权限正在变成一项需要单独管控的能力,而不是模型内部的隐式行为。自陈边界是只验证了这一类条件记忆架构与当前模型规模,更高频、更大规模的更新稳定性还没测。

相关链接:arXiv 摘要页|arXiv 全文 HTML

四、更长的思考换不来更少的偏差

事件概述 10 月 7 日提交(编号 2610.10049),德州理工大学 Obada Kraishan 单人署名,做了一次剂量-反应实验:推理模型的思考预算加大,经典决策偏差会不会变小。答案是不会。

技术解析 实验从 Malberg 等人 30,000 题的基准里冻结了 30 个决策情境,覆盖六类偏差(锚定、框架、损失厌恶、承诺升级、可得性、确认偏误),每个情境有控制版与操纵版,回答落在固定序数量表上,于是每条响应都能算一个有界且带方向的偏差分 s。模型面板是四个家族七个模型(Anthropic、OpenAI、DeepSeek、Qwen),每个推理模型配一个同家族的非推理 sibling,请求思考上限设为 0、1,024、4,096、8,192 token,每格采样 10 次,合计 12,350 次 API 调用。方法上有个关键处理:请求上限不等于实际发生的思考,所以剂量用的是每次调用实际消耗的 reasoning token。

结果分三层。第一,推理模型并不比 sibling 少偏差,四家族点估计全部朝反向(claude +0.027、deepseek +0.026、openai +0.056、qwen +0.015),按题目配对合并后 Δ = +0.031,95% 自助 CI [−0.010, +0.074],t(29) = 1.45,p = .157,Holm 校正后无一显著。第二,没有一个模型的偏差幅度随实际思考量显著下降:Claude 实际跨度 0–805 token(每翻倍 +0.003,p = .259)、DeepSeek-R1 707–2,807(+0.003,p = .958)、Qwen3-thinking 534–3,440(−0.066,p = .213);GPT-5.1 的幅度随 token 上升(+0.008,p = .018),但它的实际跨度只有 0–225,这其实是「想与不想」的对比而非剂量梯度。有符号分数反而朝背离人类方向漂移:Claude β = −0.006(p = .018)、GPT-5.1 β = −0.010(p = .010)。第三,六类偏差里只有锚定在人类方向(M = +0.163,d = 1.89,Holm p = .037),其余五个中有四个在全部七个模型上都朝反方向,框架效应可靠,承诺升级、确认偏误、损失厌恶是方向性的,可得性基本缺席。

还有一个对照值得单独看:加一行指令让模型在回答前复述锚点,五个锚定题的偏差全部下降,而任何量的额外思考都没做到——不过只有 5 个题,p = .057,未达显著。

行业影响 test-time compute 不是理性保证。它在数学与代码这类可验证任务上的收益,不能平移到估计、权衡、框架选择这类判断任务上。作者的结论很克制:不该把更长的可见思考当成更好的判断,去偏要从别处来(提示与流程设计、任务级的逐条审计)。对部署方的直接含义是:偏差审计得一个偏差一个偏差地做,一个总分看不出方向;而「给模型多加点思考预算」这条最常用的缓解手段,在这组任务上没有量到效果。论文的局限也写得很清楚:只有 30 个情境、每类偏差 5 个题、每格 10 次采样,四个家族七个模型里的模型代际未全部对齐,且只测了固定序数量表这一种响应形式。

相关链接:arXiv 摘要页|arXiv 全文 HTML

小结

四条动态可以放进同一个框里看:谷歌把模型从 Agent 里拆出来做成可替换后端,ExpDis 把探索从优化里拆出来做成可丢弃的前置策略,EngramEdit 把知识存储从通用计算里拆出来做成可编辑接口。三者的共同点是拆开之后各自拿到了独立的量——模型能单独换、探索者能单独调新奇度、记忆层能单独改而不动权重。第四条是个反例:思考长度和偏差没被拆开,加大剂量在四个家族上都量不到下降。判定法也就清楚了——看到「我们把 X 和 Y 拆开了」,先问拆开的两半各自有没有独立度量,再问其中一半单独变化时另一半是否真的不动。