大模型前沿动态 · DeepSeek-V4.1-Flash 把每 token 的 KV 缓存压到 890 字节,Anthropic 首次公开 26% 研发由 Claude 主导
DeepSeek-V4.1-Flash 用 CED 架构与 FP4 KV 缓存把全局 KV 压到 890 字节/token,DeepSWE 从 54.4% 升到 74.2%;Anthropic 公开三张内部量表,Claude 主导 26% 的研发工作、3 万个 agent 全量过监控;LimiX-2 把结构化数据模型的目标从预测 Y 改成学联合分布,TabArena 分类回归双榜第一;阿里达摩院 DAMO RADAR 登上 Science,一个模型覆盖腹部 146 种病。
本期四条落在四个不同位置,做的是同一件事:把此前只能靠人「过一遍」的信息空间,变成模型可以直接操作的对象——百万 token 的输入流、实验室内部的研发流程、变量之间的依赖结构,以及一张腹部 CT 里的 18 个器官。
DeepSeek-V4.1-Flash 把每 token 的全局 KV 缓存压到 890 字节,同一代模型里 DeepSWE 从 54.4% 跳到 74.2%
事件概述
2026 年 9 月 17 日,DeepSeek-AI 把 DeepSeek-V4.1-Flash 的技术报告提交到 arXiv(编号 2609.19969),权重同步挂在 Hugging Face 的 deepseek-ai/DeepSeek-V4.1-Flash。这是一个 552B 骨干参数的多模态 MoE,原生支持最长 100 万 token 的上下文,在 45T token 的多模态语料上完成预训练。报告的标题没有提能力,只提了一件事:把 KV 缓存的压缩推到极限。
技术解析
核心变化是 Causal Encoder-Decoder(CED)架构——解码器的全局 KV 不再由自身逐层生成,而是从编码器最后的隐状态投影而来。这带来一个不对称的激活量:prefill 阶段每 token 只激活 8B 参数,decode 阶段激活 16B。长周期 agent 的负载是输入密集的,prefill 便宜下来,整条链路的成本结构就变了。模型另有 196B Engram 参数。
压缩由两层叠加完成。一层是 CSA2(Compressed Sparse Attention 2)里的跨层 KV 与索引复用,配合分层稀疏索引器;另一层是主 KV 缓存直接用 FP4,采用 OCP 标准的 MXFP4 格式,并且是在训练阶段就带量化感知。两者合起来把常驻 HBM 的全局 KV 缓存压到每 token 890 字节,约为 DeepSeek-V4-Flash 的 1/4,相对 DeepSeek-V1 则是 437 倍。部署侧还有一项叫 SWA Bounded Replay 的优化,把常驻 SSD 或主机内存的持久化 KV 压到 V4-Flash 的约 1/8。报告图 2 显示,随上下文变长,单 token 解码 FLOPs 几乎保持水平。
效果那一侧也没有让步。DeepSWE v1.1 达到 74.2%,上一代 V4-Flash 是 54.4%,同表的 Opus-5 与 GPT-5.6 Sol 分别是 74.0% 和 73.0%。Terminal-Bench 2.1 拿到 90.6%,高于 Opus-5 的 89.1%。Codeforces 评分 3471,超过自家 V4-Pro 的 3348。Automation-Bench 54.8%、Agents’ Last Exam 31.8%、CyberGym 88.1% 都是同表最高。GPQA Diamond 从 89.9% 升到 90.9%。
有一组反向数字同样要记着:Terminal-Bench 3.0 与 4.0 上,V4.1-Flash 是 30.0% 和 31.2%,Opus-5 是 43.3% 和 51.8%。基准越新、越接近真实长周期任务,差距反而越大。
行业影响
长上下文的成本瓶颈正在从「算不算得动」转移到「存不存得下」。890 字节/token 意味着一次 agent 会话的历史上下文可以长期挂在显存里,而不是每轮重新压缩或截断——这直接改变了 agent 产品的形态:可以保留完整的失败尝试、工具输出和中间结论。权重开源让这套压缩方案能被复现和对照,而不是停留在论文曲线里。值得留意的是报告自己的定位:这是一份以部署成本为主线的报告,能力数字是附带给出的;把它读成「能力追平闭源」会越过报告自身的口径,Terminal-Bench 3.0/4.0 那两行已经把边界画出来了。
相关链接
- 技术报告:DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression
- 模型权重:huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash
Anthropic 首次公开三张内部量表:Claude「主导」了 26% 的研发工作,3 万个 agent 的动作 100% 过监控
事件概述
2026 年 9 月 17 日,Anthropic 在 Institute 栏目发布《Measurements for understanding the pace of AI development inside frontier labs》,署名 Marina Favaro 与 Phillie Wright,Jack Clark 提供研究方向。文章不给结论,给三把尺子:研发有多少是 AI 自己做的、agent 的动作被监督到什么程度、算力怎么分。三把尺子都附带了 Anthropic 自家 2026 年 8 月的实测值。
技术解析
第一把尺子是 Anthropic R&D Automation Index。它把公司里每一类 AI 研发工作列出来,借用 Epoch AI 的自动化等级(AL0 到 AL5)逐类打分再汇总。AL3 是「协作」,AL4 是「主导」。8 月的快照:没有任何一类研发工作由 Claude 全自动完成;Claude「主导」的部分占 26%;达到或超过「协作」级别的占比超过 90%。
第二把尺子量监督。8 月,在其最常用的内部平台上,任意时刻约有 3 万个 agent 在做研究与工程工作。在线监控在执行前检查全部动作、通常几秒内完成,被拦截的动作一周内由人工复核;8 月分析了超过 10 亿次 agent 决策,其中 0.002%(约每 47000 次一次)被拦截。离线监控每周标记约 10 万条 transcript,交给多个分类器筛假阳性,最高优先级约 50 条升级到人工复核;整体约每千条标记 1 到 2 条。
第三把尺子量算力。取 7 月 13 日至 20 日一周的全部算力做分类,投向 AI 研发的算力约 6% 用于安全,投向「AI 驱动的 AI 研发」的算力约 12% 用于安全。文章明确说这是偏保守的估计:一个 token 如果同时推进能力和安全,就不计入;安全分类器本身的开销也不在这两个数里。
行业影响
递归自我改进此前一直是修辞,各家定义还不统一——Anthropic 在文里给的口径是「AI 能自主设计并开发比自己更强的后继系统」,OpenAI 的口径更宽。这次的意义不在于 26% 这个数本身,而在于它被拆成了可以逐类复核的条目,并且作者主动写了四条局限:用自家模型评估自家系统、标签依赖自动规则、单周快照看不出趋势、算力占比只衡量花了多少(分类器效率提高反而会拉低这个数)。文章还承诺让多家机构的第三方评估者入驻,拿到与内部风险团队相当的数据访问权限。把监督做成一组可发布的指标(覆盖率、复核延迟、升级率),实际上是承认了一件事:agent 的规模已经到了必须靠指标而不是靠人盯的程度。
相关链接
LimiX-2 把结构化数据模型的目标从「预测 Y」改成「学联合分布」,TabArena 分类与回归双榜第一
事件概述
稳准智能与清华大学团队发布 LimiX-2,技术报告于 9 月 15 日上线 arXiv(编号 2609.17488),署名机构为 Stable AI 与 Tsinghua University。在 TabArena、TALENT、BCCO 三个结构化数据基准上,它超过 Google 的 TabFM、Amazon 的 Mitra、TabPFN 与 TabICL 等对手,二分类、多分类、回归各项指标均列第一。
技术解析
改动发生在学习目标上。以 TabPFN 为代表的 PFN 路线围绕条件预测 p(y|x, D_context) 组织上下文学习;LimiX-2 提出的上下文机制网络(CMNs)把它换成 p(x, y | D_context),建模的是数据在给定上下文下的联合结构,而不是给定输入后目标变量等于多少。配套的预训练目标是上下文条件掩码建模(CCMM):反复遮住不同变量再预测,逼着模型从「盯住一个 Y」转向学习变量之间的条件依赖。表示粒度下沉到单元格(Cell-Level),保留列身份、具体取值与缺失状态,支持跨变量、跨样本交互。
训练数据来自结构因果模型(SCM)生成的合成数据集,覆盖不同的图结构、函数机制与观测过程。预训练规模扫描从 12.5M 到 406.2M 参数:TabArena Elo 从 1766 升到 1935,参数每翻一倍涨 34.68 Elo,拟合 R² 为 0.9808,在 406.2M 处看不到饱和迹象,报告把外推画到了 2B。
榜单成绩方面,TabArena 分类(38 个数据集)Elo 1917,四项预测指标全部第一,平均两两胜率 94.5%;回归(13 个数据集)Elo 2206,同样是四项第一,平均两两胜率 96.9%,第二名的 TabFM+ 是 2063,差 143 分。报告还提到特征注意力编码了直接因果关系,可用于因果骨架恢复;在 Sachs、UF、Causal Chamber 等公开数据上优于多种传统因果发现方法。
行业影响
这条赛道今年明显升温:Google 发布 TabFM,Amazon 推 Mitra,SAP 先做 SAP-RPT-1 再收购 TabPFN 背后的 Prior Labs,投入超过 10 亿欧元扩建结构化数据研究团队,TabPFN-3.5 Plus 已进入 SAP AI Core 做现金流预测、付款延迟、供应商风险这类企业决策任务。LimiX-2 的价值不在多拿一次第一,而在它给出了一条与 PFN 分岔的路线:当问题从「Y 等于多少」推进到「变量之间是什么关系」,PFN 那种先把数据压成高层表示的做法会折掉变量级的细粒度信息。报告里那句「分类、回归、缺失值填补可以统一为对同一个数据模型的查询」如果成立,结构化数据模型就有了与 LLM 平行的第二种基础能力形态——一个学人类已经表达出来的知识,一个学真实世界留下的高维变量空间。
相关链接
- 技术报告:LimiX-2: A Contextual Mechanism Network Towards General Structured-Data Intelligence
- 报道:AGI 新战场谷歌亚马逊巨头激战,杀出个中国 LimiX-2 赢了又赢(量子位,2026-09-18)
阿里达摩院 DAMO RADAR 登上 Science:一个模型覆盖腹部 18 种结构 146 种病,外部验证 AUC 0.895
事件概述
2026 年 9 月 18 日,Science 刊发阿里达摩院与浙江大学医学院附属第一医院等机构合作的 DAMO RADAR(Rapid Abdominal Diagnosis with AI and Radiology)。它被介绍为首个专家级通用影像 AI 模型,覆盖腹部 18 种解剖结构、146 种病变,模型、代码与技术框架全部开源。以下数字来自量子位对该研究的报道,尚未回源论文原文。
技术解析
路线是视觉-语言对比学习:医院里天然存在大量 CT 影像与配套诊断报告,模型直接学二者的对应关系,不需要医生逐片标注。这一步解决的是标注成本,真正的难点在下一步——一套腹部 CT 有数百张切片,真正有问题的往往是某个器官上的小病灶,把整张图与整份报告整体对齐,关键信号会被大量正常组织淹没。团队试过这条路,模型只学到粗糙的统计特征。
RADAR 的做法是器官级细粒度对齐:先从 CT 中定位肝脏、胰腺、胆囊、肾脏等器官,把一整套 CT 拆成器官单元,再与报告中对应的描述逐一对齐。第二项创新是自适应对比建模——标准对比学习默认把不同样本的特征严格推开,而在医学场景里,两个健康肝脏的表示不该被割裂,同一种病的两名患者应该被拉近,样本距离按医学知识动态调整。
验证分了几层。内部近 3.9 万例真实世界连续队列上平均 AUC 0.913;来自 8 家外部医院、覆盖不同地区与扫描设备的 2.4 万余例 CT 上 AUC 0.895;2.7 万例急诊数据(急诊成像质量偏差,且不在训练目标内)AUC 0.904。肝癌、胰腺癌、胃癌、肠癌四种癌症以病理活检为金标准,AUC 区间 0.891 到 0.984。人机对比有 14 家医院的 26 名放射科医生参与,在同一批病例上独立诊断,RADAR 准确率超过其中 23 名,略低于 3 名资深医生;医生在 AI 辅助下读片,整体敏感度提升约 10%,平均阅片时间减少 30% 以上。论文里的 Scaling 曲线还在上升,未见饱和。
行业影响
医疗影像长期被期刊当作工程技术问题处理,Science 极少发这类文章。RADAR 通过评审的意义是它把「一个通用模型覆盖一整个领域」这条路线,放进了容错最低的场景验证——这里的误判会直接改变治疗方案。达摩院此前的 PANDA 走的是单病种路线,一个病种要啃两三年;换成通用模型之后,边际成本不再随病种数量线性增长,器官级对齐框架理论上也能迁移到 MRI、PET、超声。
报道里也点了副作用:年轻医生用 AI 写出的报告可能达到主任级水平,一旦形成路径依赖,影像逻辑思维的养成路径就被截断了。浙大一院放射科主任肖文波给出的用法是把模型当一对一带教工具——医生先按常规写完报告,再用 AI 做一次自检,哪个病灶漏了、哪个判断偏了,当场可见。这与前面三条形成对照:模型进入一个新空间之后,人的那套能力怎么继续长出来,是一个独立于准确率的工程问题。
相关链接
编者小结
四条里,只有 DAMO RADAR 是纯能力叙事,另外三条都在改「算什么」:DeepSeek 改的是长上下文的记账单位,Anthropic 改的是实验室内部的可见性,LimiX-2 改的是结构化数据的学习目标。把看不见的东西变成可报的数,比再刷一张榜单更难被复制——因为它要求先承认这件事此前一直是靠感觉判断的。