大模型前沿动态 · Vol.120

Colibrì 把 SSD 接进显存层级跑 2.8T Kimi K3、Simate-beta 空降 RoboDojo、Physical-WAM 补物理课,与一份 MRS 双向落差报告

本期四条:Colibrì 用权重分层调度让 2.8T 模型从 32GB 内存起步;Simate-beta 以 Score 33.95 / SR 27.96% 登顶 RoboDojo 并公开其自动研究飞轮;美梦空间发布 Physical-WAM 与 RoboTwin-Phys,把物理理解变成可度量变量;arXiv 2609.30071 用 MRS 双向评测证明生成分数不等于理解形式语义。

大模型 MoE 推理优化 Colibrì GLM-5.2 Kimi K3 Simate Physical AI 具身智能 世界模型 评测基准 形式语义 MRS Claude Opus 5 开源

跑得起来的门槛在往下塌,判定「真的会」的证据要求在被往上抬。本期四条分别落在容量、研发、评测、能力度量这四个位置上。

一、Colibrì:把 SSD 接进显存层级,2.8T 的 Kimi K3 从 32GB 内存起步

事件概述

9 月 26 日,量子位报道了一个在 GitHub 上冲到三万多星的开源项目 Colibrì(作者 JustVugg)。它是一套纯 C 实现、零引擎依赖的 MoE 分层推理框架,主打一件事:让消费级硬件跑前沿大模型。作者最初验证用的开发机是 12 核 CPU 加 25GB 内存,跑的是 744B 的 GLM-5.2,全程没有 GPU。目前项目已覆盖九个模型家族,最大一位是 Moonshot 的 Kimi K3——2.8T 总参数、104B 激活参数,权重需要约 1.6TB 硬盘空间,RAM 门槛 32GB 起。

技术解析

Colibrì 能吃下 MoE 模型的缺口来自稀疏激活。GLM-5.2 总参数 744B,每个 token 实际激活约 40B,意味着绝大多数路由专家在当前 token 上根本用不到。项目据此把模型拆成两段:

  • 常驻段:Attention、Embedding、共享专家这些每次都要算的 Dense 部分,约 17B 参数,int4 之后占约 9.9GB,直接留在 RAM。
  • 临时段:GLM-5.2 的 19456 个路由专家,int4 之后整体约 370GB,全部丢进 NVMe SSD,Router 点名谁才去盘上取谁。

单靠「按需加载」不够,冷缓存时那台 12 核开发机只有 0.05~0.1 token/s。真正把速度拉起来的是三件事。一是 LRU 缓存,最近被调用过的专家优先留在 RAM;二是使用频次统计,跑得越久越清楚哪些专家是常客,给它们更高的缓存优先级;三是预取——项目测出相邻层之间的专家路由存在明显相关性,提前一层预测专家的可预测性达到 71.6%,于是当前层还在算时就在后台读下一层的候选专家,把计算和 SSD I/O 重叠起来。机器里若装两块 SSD,还支持放第二份模型副本分摊带宽。

作者把这套东西类比为针对模型权重的 JIT:不把 744B 当成必须整体驻留的对象,而当成可以在 SSD、RAM、VRAM 之间动态调度的数据,团队称之为 AI memory multitiering。有一条设计原则值得记下来——专家放在哪一层只决定速度,不改模型本身,Router 的选择和权重精度不因存储位置变化。所以 128GB 内存的纯 CPU 桌面机能到约 1.8 token/s,堆到 6 张 RTX 5090 让全部专家常驻高速层,解码能到 5.8~6.8 token/s。项目还提供 Web Dashboard,其中一个「Brain」页面把 19456 个专家的被调用情况、所在存储层与热度全部可视化。

行业影响

Colibrì 没有提出新的算子或新的量化方法,它改的是「权重放哪」这一层调度。这件事的意义在于把前沿模型的门槛从「有没有机房」降到「有没有一块大硬盘」——2.8T 参数的 Kimi K3 起跑线是 32GB 内存加 1.6TB 存储,这个配置对个人和小型团队都不算遥不可及。代价也很直白:0.05 token/s 到 6.8 token/s 之间的差距,全部由存储层级和预算决定,慢到快是同一套代码在不同硬件上的两个极端。对推理服务商来说,这条路的竞争点会落在缓存命中率和预取准确率这类指标上,而不是模型本身。顺带一提,项目生态已经开始分化,GitHub 上出现了基于它的 Rust 版 MoE 引擎和面向 Apple Silicon 的 Metal 版分支。

相关链接


二、Simate-beta 登顶 RoboDojo:三个月、一套自动研究飞轮、两个分开报的分数

事件概述

9 月 26 日,量子位报道了成立仅三个月的 Simate(Silicon Mate)发布的首款通用物理快系统 Simate-beta。据公司提供、更新于 9 月 23 日的 RoboDojo 榜单,Simate-beta 以平均 Score 33.95 排名第一,对应 SR 为 27.96%。需要留意的是,Simate 官网目前仍把 RoboDojo 标注为「Evaluation in progress」,量子位也明确写了「该成绩属于榜单评测,真机表现另行展示」。公司同期披露已连续完成多轮、每轮数亿元人民币级别的融资。

技术解析

Simate 的路线选择是做大「快系统」。团队的类比是:面对「收拾一下桌子」这类指令需要慢系统去拆解意图,但手已经伸向杯子时,往左微调几毫米还是往右偏一点,这种毫秒级反应不能依赖深度思考。他们押注的是把快系统的参数量做大,去摸零样本泛化能力的涌现,两个技术支点是 4D 物理感知(把空间结构与时间维度的动态一并捕捉)与分层时序记忆(长程任务要记住发生过什么,又不能被历史信息拖慢)。具体架构和模型规模留到后续技术报告披露。

更值得看的是它背后的研发体系,三层:

  1. SiPAI:把机器人模型搭成 Agent 能读懂的结构,模块边界、系统接口、配置项与验证流程都定义清楚,Agent 才能知道改哪个模块、波及什么、怎么验证。已接入世界模型、世界动作模型、VLA、VLM 等架构。
  2. AutoResearch:把外部论文、内部研讨、模型代码、数据配比、历史实验日志与最新评测反馈汇进同一份动态研究上下文,实时刷新,让 Agent 的建议能锚定到具体代码分支与实验版本。
  3. AI-native Infra(Sinfra):训练、推理、评测全流程接进自研基础设施,并行推进数十条相互独立的研究路线,靠「世界模型 + 仿真环境」做第一轮高频筛选,淘汰掉绝大多数无效方向,只有少数方案进真机实测。

公司把自我改进分成弱、中、强三档 SI(边界明确快速闭环 / 方向明确答案未知 / 研究问题本身都需要被发现),并强调三者无等级之分、可共存于同一套系统。这次登顶 RoboDojo 被定义为弱 SI 阶段的工程验证。核心成员包括创始人张颖(前一线智驾公司核心技术负责人)、占方能(香港科技大学助理教授、World Mind Lab 负责人)和季马泽宇(前硅谷 Assured Robot Intelligence 创始成员,该公司后被 Meta 收购)。

行业影响

Simate 把 RSI 的口号落成了可核验的组织结构:SiPAI 解决「改哪里」,AutoResearch 解决「知道什么」,Sinfra 解决「跑多少」。三个月从成立到榜首,验证的是迭代吞吐而不是模型上限。同期 arXiv 上有一篇自审(2609.30074)给出了一个提醒:在一份覆盖八个模型变体、8B 到 675B 参数的评测里,联合聚类自助法显示排名最末的两名在 99% 和 86% 的重复样本中保持位次,中间四名只有 27% 到 48%,头两名各 68%——榜单能可靠识别最差的模型,却不能可靠识别最好的那个。Simate 这次把 Score 33.95 与 SR 27.96% 分开报,属于少见的克制写法;真正该等的是论文与技术报告里披露的架构与规模,以及年底预告的阶段性成果。

相关链接


三、Physical-WAM 与 RoboTwin-Phys:给机器人补物理课,并给「懂物理」立一把尺

事件概述

9 月 26 日,在第五届全球数字贸易博览会首发首秀主舞台上,杭州美梦空间(Memo)CEO 李明昊首次公开 Physical-WAM 与 RoboTwin-Phys 两项成果。美梦空间由北京大学信息技术高等研究院高文院士领衔的 AVS 先进视觉系统研究中心孵化,2026 年 8 月获物理 AI 企业索辰科技(688507.SH)独家种子轮战略投资。前者是全球首个具备物理感知能力的物理-世界动作模型(WAM 基模),后者是业内首个物理漂移评测基准,发布即开源,代码、数据集与排行榜全部开放。

技术解析

Physical-WAM 的核心动作是在感知信号输入与动作输出之间插入一层「物理 Token」表征。传统世界模型的中间表征是像素或隐空间向量,能推演画面演化却推不出因果——知道下一帧会变成什么样,不知道为什么会变成这样。该模型由三个模块串成「感知→预测→生成→修正」链条:

  • PhysLens:从多模态感知信号里提取摩擦、重量、重心、接触状态这类不可直接观测的物理量,输出统一表征。对照来看,现有 VLA 学到的是反应式的观测到动作映射,知道何时伸爪、旋转、松手,不显式推断物体多重、表面是否湿滑。
  • PhysDream:结合当前物理表征、环境状态与候选动作推演未来物理状态,预测打滑、脱手等风险并给出不确定性评估。
  • PhysAct:把物理属性与未来状态预测引入动作生成,环境发生物理漂移时自动调整执行策略。

官方举的例子是抓握纸杯:PhysLens 识别纸杯材质的低刚度特性,PhysDream 预测注水后负载增加导致杯壁形变或滑脱,PhysAct 据此调整抓握力度与接触位置并在注水过程中持续修正。

RoboTwin-Phys 解决的是标尺问题。现有具身基准测的是任务完成度而非物理适应度,模型可以在固定摩擦系数、固定物体质量的标准集上刷高分,对物理参数扰动却毫无鲁棒性。该基准在 RoboTwin 基础上新增 13 类真实世界常见的物理扰动因素,覆盖物体属性、接触属性、阻尼、任务环境、相机配置五个维度,支持单因素到多因素组合扰动。评测按三层递进:物理属性推断准不准、扰动下任务还成不成、性能差距的上界在哪里。基准一并给出物理真值(物理值、接触力日志、物体运动学数据、失败时间线)与固定种子配对评估,用来区分「物理状态识别错了」和「识别对了但动作策略没跟上」。

行业影响

这组成果的价值在于把「物理理解」从一句口号拆成了可度量的变量。它接住的是近期两条负面证据:北大与 BeingBeyond 联合发布的 BeTTER 基准(ECCV 2026)显示,最先进的 VLA 模型在标准静态测试中尚可,一旦引入空间布局偏移或时序外推干预,成功率断崖式下跌;斯坦福的一项研究则把接触丰富任务中的失效拆成「精度失效」与「力失效」两个相互独立的模式。美梦空间自己也列了三个尚未回答的问题——物理 Token 的粒度边界在哪、跨本体的物理迁移效率如何、仿真物理的保真度天花板在哪。物理交互数据只有百万量级、与文本图像领域存在数万倍落差,这个供给侧约束没有被这套方案绕开,只是被显式表征和定向评测推到了更可控的位置。

相关链接


四、MRS 双向落差:Opus 5 写出 76.3 BLEU 的句子,却解析不出它的形式语义

事件概述

arXiv 于 9 月 24 日收到一篇来自 Soham Dan 的短文(arXiv:2609.30071),题目是「Scoring Both Directions: LLMs realize the MRS they cannot reliably parse」。它做的是一件罕见的对照实验:把同一个形式语义表示的两个方向放到同一批句子上打分。

技术解析

实验对象是 English Resource Grammar(ERG)——一套手写的英文计算语法,其处理器 ACE 能把句子转成最小递归语义(MRS,一张由谓词和论元构成的图),也能反向把 MRS 还原成英文句子。作者重构了 hajdik 等人 2019 年构建的 1 万句测试集,在完全不做任务专用训练的前提下测了 Claude Sonnet 4.5 与 Claude Opus 5,并与当年的序列到序列系统、与 ACE 本身对照。

生成方向(MRS → 文本)的结果相当漂亮:给 MRS 加三个示例,Opus 5 写出句子达到 76.3 BLEU,比用 7.2 万对训练出来的系统(66.1 BLEU)高出十个百分点,接近额外追加一百万对训练的系统(77.2 BLEU)。Sonnet 4.5 是 65.7 BLEU,让它在 ACE 自己产出的候选句里挑选能升到 69.6,而把 Opus 自己的句子也放进候选池的 pooled judge 再加 0.6 个点,到 77.0 BLEU。

解析方向(文本 → MRS)塌了下来:对同一批句子索要 MRS,Sonnet 4.5 得 57.2 F1,Opus 5 得 65.5 F1,ACE 是 91.0;与标准答案完全一致(exact-match)的句子只有约 1%。作者还刻画了解析方向的失败模式,并给出一个结论:单独的生成分数不能说明模型理解了形式语义表示。

行业影响

这条落差可以放进一个更大的序列里看。此前的工作已经证明模型「装得下两路语义却拆不出来」「编码了却在部署层用不出来」,这次补上了最干净的一刀:同一个模型、同一批句子、同一套形式体系,一个方向超过专用训练系统,另一个方向被一个 2019 年的规则处理器甩开 25.5 个 F1 点,逐句精确匹配率约百分之一。形式语义表示的好处是它有唯一正确答案,可精确判定,BLEU 这种模糊匹配指标在生成方向给不出同样的保证。对任何打算用「模型能写出结构良好的输出」来论证「模型掌握了该结构」的评测设计,这篇论文提供了一个现成的反例模板。它也指向一条更实际的做法:既然模型在挑选候选上稳定受益(Sonnet 65.7 → 69.6,Opus 76.3 → 77.0),把符号系统当生成器、把模型当判别器,比让模型从零产出一整个结构更划算。

相关链接


小结

四条动态各自处理的是一道不同的闸:Colibrì 拆掉了容量闸,Simate 想拆掉研发吞吐闸,Physical-WAM 与 RoboTwin-Phys 在补物理评测这把尺,MRS 双向落差则在收紧能力度量的口径。跑得起来的门槛在下降,判定「真的会」的门槛在上升,两边走的不是同一个方向。