大模型前沿动态 · Vol.116

大模型前沿动态 · 反馈粒度下沉:从 token 级纠偏到子目标评分与像素级精修

阶跃星辰开源 onPanda 把人工纠正精确到 token 位置;OSWorld-Pro 用 2800 个子目标重测 Computer-Use Agent;商汤 SenseNova U1 Pro 连续三轮局部修改不动其余像素;基元律动把运行反馈接回模型权重。

大模型 阶跃星辰 onPanda 对齐数据 OSWorld-Pro Agent评测 商汤 SenseNova U1 Pro AI生图 基元律动 RSI 模型路由 NeoHorse-1 arXiv

四件事落在四个不同的层,做的是同一件活:把「哪里不对」从一句笼统的判断,拆成一组能被精确定位的坐标。

过去两年,大模型的能力评估和改进长期依赖一个粗糙的信号:一段输出整体打几分。这个信号够用来排序,不够用来修。下面四条动态分别来自标注工具、评测基准、图像生成产品和 Agent 运行框架,它们的共同点是把反馈的坐标系统往下沉了一层。

阶跃星辰开源 onPanda:把人工纠正精确到 token 位置

事件概述

2026 年 9 月 21 日,arXiv 挂出论文《onPanda: Efficient Annotation of On-Policy Alignment Data for LLMs and Agents via Token-Level Correction》(arXiv:2609.24983),作者名单里有 Binxing Jiao、Daxin Jiang、Xiangyu Zhang 等阶跃星辰惯常署名者,配套项目页与多模态数据集 Panda-CVL 一并放出。

技术解析

onPanda 的交互被压缩成一个循环:读模型回复 → 找到第一个不合适的 token → 从模型自己的候选 token 里挑一个替换,或者手打正确文本 → 系统截断该位置之后的全部内容 → 从纠正过的前缀继续生成。循环往复,直到拿到满意回复。

这个设计的取舍很明确。标注者从头写一遍,产出的就不是模型会说出的话,拿去做 SFT 等于把分布往人类那边拽偏;onPanda 让最终回复里绝大多数 token 仍由模型自己吐出,只在那几个出问题的位置插手,采样分布保住了,on-policy 性质也就保住了。论文与项目页给出的效率数字是:相比人工后编辑,标注时间中位数下降 52%。

附带的好处是监督信号的形状变了。每一次纠正都自带精确位置,而且截断前模型原本要生成的那个 token 与替换后的 token 天然构成一对正负样本——不用再额外构造偏好对。项目页还展示了 Agent 轨迹标注的形态:推理文本和工具调用参数同样可以在 token 级别改,改完的工具调用能直接丢进所连环境执行,轨迹从纠正后的上下文继续往下走。

行业影响

对齐数据一直卡在一个尴尬位置上:要 on-policy 就得让模型自己生成,要正确就得让人写,两者难以兼得。onPanda 把代价从「整段重写」降到「定位加替换」,成本结构变了,原本划不来的精细标注就变得划算。Agent 轨迹标注这一支更值得留意——轨迹数据的纠错此前只能整轮重跑,现在可以在中途改一个参数然后接着跑,这对工具调用类后训练的数据供给是实质性的松动。

相关链接

OSWorld-Pro:把 Agent 的评分拆到 2800 个子目标上

事件概述

同一天(2026 年 9 月 21 日),OSWorld-Pro 提交至 arXiv(arXiv:2609.24890,27 页 7 图),作者团队来自高校与 NVIDIA。它针对的是计算机操作 Agent 评测长期只看最终交付物这件事。

技术解析

OSWorld 这类基准的做法是:让 Agent 在真实操作系统里跑几百步,最后用功能验证器检查结果文件对不对。问题在于,跑完之后只知道成或不成,不知道是在哪一步开始跑偏的。OSWorld-Pro 的改法是给任务装上一层过程刻度:300 多个任务被拆成 2800 多个子目标,背后是 67000 多条人工标注。子目标是否达成由经过人类对齐的 LLM-Judge 判定,于是一条轨迹不再是一个二值结果,而是一条随步数推进的进度曲线。

这样拆开之后,失败模式的区分度就出来了。论文点名两类:敲键盘输入出错,和在图形界面上点错位置。这两种失误在只看终态的评测里长得一模一样——都是任务失败——但修法完全不同,前者要改输入构造,后者要改视觉定位或坐标策略。

数字上最能说明问题的是差距:Claude Opus 5 在 OSWorld 上是 83.4%,在 OSWorld-Pro 上只有 75.7%。同一个模型,换个量法就掉近 8 个百分点。这 8 个点不是模型变弱了,是原来的量法把中间过程的亏空给盖住了。

行业影响

过程化评测真正改变的是迭代回路的长度。Agent 跑完一次几百步的成本不低,如果只拿到一个「失败」,能做的只有重跑;拿到子目标进度后,改进目标可以直接落在某一步的动作类型上。对做 Computer-Use 的团队来说,这是把「调 prompt 碰运气」换成「对着失败步型改机制」的前提条件。另一个隐含影响在榜单口径上:OSWorld-Pro 给出的分数比 OSWorld 低,两个榜的分值不可比,后续引用时需要标明是哪个。

相关链接

商汤 SenseNova U1 Pro:连续三轮局部修改,其余像素不动

事件概述

据量子位 2026 年 9 月 22 日 21:57 发布的实测,商汤 SenseNova U1 Pro 正式版上线,可在商汤小浣熊平台使用,API 向企业客户开放,多轮修改功能在 SenseNova Studio 上体验,清晰度 2K 起步、最高 4K。

技术解析

这轮实测的重点不在「生成的图好不好看」,而在「生成之后还能不能改」。五组测试里最有说服力的是连续修改那一组:一张四图合成的海报,先只把「桂花拿铁 28 元」改成「26 元」,再替换主标题文案,最后只把桌上咖啡杯的杯身底色改成深墨绿。连续三轮,价格、字体、字号、文字颜色、位置都得保持,杯子的形状、把手、表面图案、大小、材质、光照关系都要保留。结果是三轮都指哪儿改哪儿,其余部分没有可见变化。

生图模型此前最招批评的就是牵一发而动全身——改一处,整张图重画一遍,构图光影全跟着变,改三轮等于换三张图。U1 Pro 在这组测试里表现出的性质是局部编辑的隔离性:被指定区域之外的像素分布没有被扰动。

另外两组也指向同一个方向。四图合成那组,四张参考图各自被限定只贡献某一类信息(图 1 只给建筑轮廓和门窗位置,图 2 只给猫的毛色与脸部特征,图 3 只给杯子造型,图 4 只给版面分区),最终输出要同时满足全部约束且不拼接感;八格连续动作那组,主体猫的额头花纹、胸口毛色、尾巴纹路跨八格保持一致,电脑从第 4 格起保持合上状态。科普海报那组则是模型自己先检索 NASA 的月相资料再排版,八个月相的名称、顺序、亮面方向都要对。

商汤给这套流程的命名是需求理解、信息搜索与补全、素材处理、生成编辑、检查修正五个环节纳入同一条管线。

行业影响

衡量生图模型的标尺正在挪位置。单张图的质量已经很难拉开差距,真正决定能不能进生产流程的是可交付性——改十次还能不能保持商品白底图的杯型和图案不变。电商详情页、影视分镜这类场景,要的从来不是一张惊艳的图,而是一张能改到对、且改完还能用的图。国产厂商在这一层上抢位置,比在单图美感上硬碰更有胜算。

需要说明的是,上述表现来自量子位的实测报道,商汤未公开对应的量化编辑一致性指标,判定依据为测试者给出的样张。

相关链接

基元律动:从模型路由到 RSI 飞轮,把运行反馈送回权重

事件概述

2026 年 9 月 22 日,在杭州云栖大会企业级 Agent 实践峰会上,基元律动联合创始人兼 CTO 韩凯发表演讲《从 Harness 到 RSI 飞轮》。量子位当日 18:06 刊出报道。

技术解析

这条线索分两截。第一截是运行期的模型路由,开源项目叫 OpenSquilla。公司给出的端到端 Agent 评测结果是:在特定测试配置下保留固定旗舰模型基线 99.96% 的任务质量,成本下降 88.9%;另一组 DRACO 深度研究评测中,多模型协同配置的得分超过该组实验里最强的单模型基线,成本约为其三分之一。

第二截是把运行期的反馈接回训练。9 月发布的 NeoHorse-1 基于通义 Qwen3.5 底座做后训练,初版技术报告称十项基准上 4B 版本宏平均从 58.94 提到 64.87,9B 版本从 65.60 提到 69.04;4B 的后训练版本在 VitaBench、τ²-Bench、PinchBench、QwenClawBench 和 HumanEval 五项上超过 Qwen3.5-9B 底座。

韩凯给出的一个背景数字是:国家数据局披露 2026 年 3 月我国日均 Token 调用量已超 140 万亿,较 2024 年初增长超千倍;一次复杂 Agent 任务往往涉及十余次乃至数十次模型调用。

行业影响

把这两截连起来看,它想做的是一条闭环:任务执行产生数据 → 评测指出模型与调度策略该往哪改 → 针对性优化 → 升级后的能力回到场景里验证。RSI(递归式自我改进)这个词此前多停留在论文里,这里给出的是一个工程侧的雏形。值得留意的是它的分工方式:路由层负责让每一步用对模型、用得起模型,反馈层负责把跑出来的经验变成下一版权重,两者由评测连接。对中小团队而言,这条路径的意义在于不必等底座模型升级——自己积累的场景反馈本身就是一份可训练资产。

同样要标注口径:以上数字来自公司自述与量子位报道,OpenSquilla 的 99.96% 与 88.9% 限定在「特定测试配置」下,未见第三方复现。

相关链接

小结

四条动态分处标注、评测、生成、运行四个位置,动作却是同一个:把反馈的坐标从整体下沉到局部。token 位置是一维坐标,子目标序列是时间坐标,图像区域是二维坐标,把这些坐标攒起来回灌权重,就成了第四条的飞轮。粒度下沉的代价是标注与评测的成本上升——67000 条人工标注不是小工程——换来的则是每一次改进都能说清改的是哪一处。