大模型前沿动态 · Vol.114

大模型前沿动态 · ZTC 把「判对错」压到 0.06 秒零 token，13 个验证器首次同榜，中国电信 29B-A4B 挤进一张 3090

本期四条动态：VIDRAFT 零 token 置信度读出 0.8801 对自报 0.5000；13 个答案验证器首次跑在同一份 2018 条测试集上，长度格式基线压过其中 8 个；APUS 把 Jev 范式复现到端侧 M2 Pro；中国电信开源 Xing4.0-29B-A4B，4-bit 后单张 3090 可跑。

大模型 Agent 答案验证 置信度 零生成推理 Hugging Face 中国电信 Xing4.0 APUS Jev ZTC 国产算力 昇腾 端侧推理 MoE

本期四条动态分属评测、权重、端侧工程与国产算力，落点却一致：把「这一步做对了没有」从自回归的生成流程里拆出来，单独做成一层。拆法各不相同——读一次隐状态、训练零生成的类型化决策模型、把打分搬到本机、把每次参与计算的参数量压到十分之一，省下的都是同一笔预算。

一、不问模型，直接读模型：自报置信度 0.5000，隐状态读出 0.8801

事件概述

9 月 20 日，VIDRAFT 在 Hugging Face 发布 Zero-Token Confidence（ZTC），随 FINAL-Bench/Darwin-397B-ZTC 与 FINAL-Bench/ZTC-Judge-27B 两个权重一并上线。它做的是一件很窄的事：判断一条已经生成的答案对不对，不生成任何 token，只做一次前向传播。

技术解析

核心对照极不对称。在 2,018 个样本上，问模型「你有多确定」，得到的 AUC 是 0.5000——和抛硬币没有区别；读同一个模型最后一层隐状态，得到 0.8801。539 条留出集上，Darwin-397B 从 0.7646 提到 0.8801（+0.116），Qwen3.5-27B 从 0.6141 提到 0.8388（+0.225），置换检验 z 值在 9 到 13 之间。留一域验证下（探针从未见过被测领域），Darwin-397B 仍有 0.7572。

成本是这套东西真正的卖点。4 张 B200 上跑 27B，生成一个候选答案要 1.631 秒，ZTC 门控只要 0.0615 秒，相差 26 倍；Darwin-397B 在 8 张 B200 上处理完 2,018 条用了 270 秒，单条 0.13 秒且含前向。部署形态是一个 45 KB 的 .npz，存权重向量、标准化项与校准常数，四行 Python 即可接入。

还有一个反直觉的结果：180B 级的 Qwen3.8-Flash-Next 在同 400 条上只有 0.7146，排在 27B 的 0.8171 之后。作者给的解释是它的隐层宽度只有 2560，且 48 层里 36 层是线性注意力——窄隐状态装不下这个判断，线性注意力又把判断需要的全局比较压缩掉了。决定 ZTC 质量的是隐层宽度与全注意力占比，不是参数量。

端到端效果用一个可玩的对照实验给出：三条泳道拿到相同的动作流与相同的时间预算，无门控必须执行一切。400 局后无门控 −3.9 分，文本验证器 +13.0，ZTC +29.1，执行准确率从 49% 升到 65%，同样 300 秒内多处理 2.2 倍动作。

行业影响

「让模型自评」这条便宜路线被一组数字直接判了死刑：任何按自报置信度做路由的产品，路由依据是噪声。更值得留意的是门控成本被压到 0.06 秒量级之后，用法会变——从抽样检查少数动作，变成每个动作都过一道闸。这会改变 Agent 系统的默认架构：验证不再是调度器里的一个可选环节，而是每个动作的前置开销，且这个开销已经小到可以忽略。

相关链接

二、13 个答案验证器第一次跑在同一份测试集上：长度与格式基线压过其中 8 个

事件概述

同一天，Hugging Face 用户 mayafree 发布了 Typed Decision Leaderboard，把 13 个答案验证系统放到一份 2,018 条的测试集上横向打分，并公开评分代码。这个品类的名字来自 TypeSafe AI 的 Jev（System One models），成员还包括 Convai 的 Laya、Patronus 的 Lynx、Vectara 的 HHEM，此前每家都只赢自己的榜。

技术解析

评测设计有两个刻意的收敛。一是按域先算再加权平均，不把所有样本合成一个 AUC：作者自报系统合并口径读 0.80、分域均值读 0.73，他们报的是可复现的那个低值。二是表里放了两条参考行——一个只用答案长度、数字个数、格式等十个表面特征的逻辑回归，以及答题模型自报的置信度。

结果里最扎眼的是那条表面基线：0.7036，压过 13 个系统里的 8 个。完整排序为 ZTC（397B）0.7364、JEV 0.7350、ZTC（27B）0.7282、长度与格式基线 0.7036、open-jev 4B 0.6844、Patronus Lynx 8B 0.5179、Laya-Typed-Decisions 421M 0.5144、模型自报置信度 0.5000、Laya-Multilingual 322M 0.4796。

榜首是平局。ZTC 领先 JEV 0.0014，而该差值的 95% 区间是 −0.019 到 +0.032，含零，按榜单自身规则不排名次。直接问前沿模型这条参照线也不占优：GPT-5.2 拿到 0.7148，落在两个 ZTC 配置和 JEV 之后，成本约 $0.55 每千次调用，JEV 是 $0.024。

规模在这条轴上不灵。同一家族内 397B 总体胜过 27B，但在科学推理这一个域上顺序反转：27B 是 0.7410，397B 是 0.6287，大十四倍的模型低了 0.11。

AUC 排不出部署价值，作者另做了实验。按 20% 重试预算、以 74.83% 的无门控基线为参照：ZTC 76.16%（+1.34 个百分点），JEV 74.76%（−0.07），随机 74.58%（−0.25）。两个系统 AUC 差 0.0014，端到端差 1.4 个百分点。机制在于重答是双向的：送回去的答案里错的 38% 被修好，对的 30% 被改坏，所以门的价值由精确率而非召回率决定。JEV 路由了 403 条，其中 216 条本来就是对的；ZTC 同样 403 条，其中 195 条本来是对的。这个不对称在 AUC 那一列里看不见。

（两个榜单当天给出的 ZTC 与 JEV 数值略有出入：本榜为 0.7364 与 0.7350，VIDRAFT 自家博文为 0.7394 与 0.7335，应为评测批次与版本差异。）

行业影响

「每家都赢自己的榜」这类品类的水落石出现在有了公共刻度。0.7036 这条表面基线会成为硬门槛——低于它，说明系统在检测答案的形状而不是内容。另一层影响是采购口径的变化：AUC 只回答「谁把对错分开得更好」，不回答「谁让我的 Agent 更好」，后者要靠精确率与重试预算来测。榜单还列了四个「跑不起来」的复现项目并附失败原因，把无法从发布产物执行这件事也算进品类的真实状态，这种做法比只放好看的分数更接近基础设施。

相关链接

三、APUS 把 Jev 范式搬到本地：M2 Pro 上 18 秒跑完维基检索，零云端调用

事件概述

9 月 19 日，APUS（麒麟合盛）旗下 AI 实验室公布了针对 Jev 的独立开源复现，做成开箱即用的 Agent Skill fast-browser-use，支持纯本地模型离线执行；量子位于 9 月 20 日 16:30 报道。项目以 MIT 协议开放，覆盖 macOS、Linux、Windows。

技术解析

复现的是 Jev 公开文档里那个核心机制：跳过自回归解码，用单次前向的 logits 直接打分。APUS 在浏览器自动化场景里把它落地——把页面上真实可见、可交互的元素整理成带编号的候选动作集合，由本地运行的 Qwen3.5-9B 一次前向算出「点哪里、选哪个」。作者称这一步从机制上消除了生成错误选择器或格式幻觉的空间。项目还复现了 Jev 的 KV-Cache 广播与并发批量评估。

实测数据给在一台 Apple M2 Pro 消费级笔记本上：智能体靠本地模型全程离线完成真实维基百科检索任务，中位耗时约 18 秒；表单填报、站内导航一类任务约 3 秒；单个任务模型打分次数只有 4 次；全程零云端调用、零 API 费用，数据不出本机。

项目已封装为标准 Agent Skill，一行命令可接入 Claude Code、Codex、OpenCode 等编程智能体。Jev 这个名字取自 19 世纪经济学家杰文斯，呼应杰文斯悖论：智能使用成本暴跌会带来用量暴涨。

行业影响

APUS 强调的三重意义里，第二重最实在：此前 Jev 的性能数据全部来自 TypeSafe 官方自测，现在有了一份独立可复核的参考，且证明开源权重加端侧算力也能支撑这条范式。对政企与金融场景，价值不在速度而在数据边界——判断环节不出本机，意味着「用模型做 Harness」这条路线可以进合规环境。它把前面两条动态里的抽象结论往下拉了一层：零生成判断不只是 API 上的一个便宜选项，也可以跑在没有 GPU 的笔记本上。

相关链接

四、中国电信 Xing4.0-29B-A4B：290 亿参数激活 40 亿，一张 3090 跑企业本地办公

事件概述

9 月 20 日 20:22，量子位报道中国电信开源 Xing4.0-29B-A4B，定位是全栈国产化的轻量级代码智能体模型。权重已上线 GitHub、Hugging Face、Gitee、魔搭、魔乐等平台。Hugging Face 上的官方仓库 XingChen-AGI/Xing4.0-29B-A4B 创建于 9 月 16 日，Apache-2.0 协议，截至目前 12,617 次下载、891 个收藏。量子位称其已进入 HF 模型趋势榜第四。

技术解析

部署门槛是设计起点。模型用 MoE 架构，290 亿总参数、每次推理只激活约 40 亿；FP16 下单卡显存占用约 60GB，4-bit 量化后压到约 15GB，降约 75%，RTX 3090、4090 这类消费级显卡就能跑。上下文原生 256K，可扩展到 512K。

长上下文要真能用，得先给 KV Cache 瘦身，模型用 MLA 多头潜变量注意力把待缓存信息压成更紧凑的形式；生成侧用 MTP 多 token 预测，让模型一次学习预测后续多个 token，推理时先出候选再交主模型校验；还引入了 mHC 流形约束超连接，约束层间信息传递以抑制训练不稳定。

训练侧是国芯训国模：完全基于昇腾 910C 集群，用 MindSpore/MindFormers。工程上做了 DVM 图算融合、细粒度重计算与 Ascend C 定制融合算子，官方称整网训练吞吐较开箱性能提升约 96%，接近翻倍；后训练的 Slime 强化学习框架也做了昇腾适配。数据侧自建数十万亿词元体系，预训练经 PB 级多源清洗，除通用内容外加入复杂表格、结构化知识图谱与智能体行为轨迹——后者记录的正是一个任务从头到尾怎么走。课程安排为预训练 4K 起步，中训练依次扩到 32K、128K、256K，后训练围绕 Coding、Agent、Reasoning 三方向做多专家强化学习再用 MOPD 融合；优化器用 Muon，配 QK-Clip 控制注意力数值规模。

落地适配覆盖 OpenCode、Claude Code、OpenClaw、Hermes 等 Agent 与 Harness 框架，兼容 LLaMA-Factory、MindFormers、SGLang、vLLM、KTransformers。在智能客服场景的私有化部署中，官方称复杂业务办理成功率已达 90% 以上。

行业影响

AI 办公这轮竞争里，多数玩家在抢入口，电信切的是另一头：数据不能出域、手头算力有限，但长文档要读、复杂业务要办的那批企业。这款模型给的答案不是更强的能力，而是把能力塞进既有的约束里——一张消费级显卡、现有工作流、国产芯片。从算网一体机预集成到智算专线弹性扩容，再到基于智源 FlagOS 打通多家国产芯片，交付路径被拆成了几档。这条路径能否复制，取决于昇腾上那 96% 的吞吐提升是不是可迁移的工程经验，而不只是一次性的调优结果。

相关链接