把判断从语言里剥出来,然后为这个数字吵架
Jev 把模型输出从一段话换成浮点数与置信度,四天后被 Apache-2.0 的 Laya 追着要优先权,78 条用例的独立复测证明速度可复现、准确率不可复现;风险那一侧仍是形容词,唯一要求把形容词改成阈值的是一份法院诉状。
本期内容 · 8 条
TypeSafe AI Jev vs. Laya (what they are and the controversy so far)
6 分 57 秒对照 Jev 与 Apache-2.0 的 Laya:一边要 32.8 毫秒与开放权重,一边被指没有论文、没有权重、没有公开基准。
Jev introduces a new shape of LLM - System One, aka Decision Models
把 Jev 归为 decision models,讲清 noul / choice / score 三种提问与只收输入的计费,并指出它比 LLM 更黑箱。
Jev: System One models for Prod, not God - with Diogo Almeida, CEO, TypeSafe AI
RLHF 共同发明人、InstructGPT 共同作者带着 4000 万美元种子轮出来,用两小时讲为什么不为神做模型。
AI Safety Language Is Destroying the Debate | Steven Sinofsky
前微软 Windows 总裁点名 alignment、goal-seeking、rogue agents 三个词在拟人化老问题,主张一律换成 bug 与遥测、事故报告。
UN science panel says there is no assurance humans will keep control over AI agents
联合国 AI 科学小组首份报告称对 agent 的控制没有保证,Bengio 列出三件事头一回凑在一起,报告只借了航空、核电与网络安全的作业。
British Columbia sues OpenAI and Sam Altman over Tumbler Ridge mass school shooting
加拿大省份在旧金山联邦法院起诉,除赔偿金外还要一道命令,改变公司处理会导向暴力的对话的方式。
MiMo-V2.6-Pro debuts as the top open weights model on the Artificial Analysis Intelligence Index
小米 MiMo-V2.6-Pro 以 46 分登顶开放权重榜,每 Intelligence Index 任务 0.13 美元,训练预算 300 万美元。
09-21 AI 资讯:Jev 官网、Laya 仓库与 GPT-6 系列发布传闻
4 分 44 秒日更,简介挂着 Jev 控制台、Laya 文章与 GitHub 地址,把当天主线串成一份可回溯的索引。
Jev 与 Laya:速度那一项两家都过了,准确率那一项谁都没赢
TypeSafe AI 在 9 月 15 日开放 Jev 的早期访问:输入是文本或半结构化 state,输出是浮点数与置信度,choice / score / noul 三种原语,一次前向传播把结果全部吐出来。4 天后,ConvAI Innovations 创始人 Nandakishor Mukkunnoth 拿出 Apache-2.0 授权的 Laya,说他 2025 年 3 月的 arXiv:2503.23303 已经写过同一套非自回归决策思路,指 TypeSafe「把一模一样的非自回归决策概念当成全新科学突破提出来」,且发布时没有论文、没有开放权重、没有公开训练数据。
Laya 给了三个 checkpoint:421M 的英文模型、322M 的百余语言多语言模型,以及一个 typed-decisions 模型,安装方式是 pip install laya。Mukkunnoth 报的数是单张 T4 上每问 32.8 毫秒、批处理 7.2 毫秒,对照他引用的第三方 Jev 延迟 236–276 毫秒;他自己的模型卡也写明 Laya 在校准温度重拟合之前偏过度自信。
真正把两边拉开的是一次独立复测:有人在 M4 Pro Mac mini 上跑了 classifier-benchmark 里的 78 条用例,Jev 得 0.974,1-bit 量化后的 27B 模型 0.885,GLiNER2 0.795,Von 0.769,Laya 垫底只有 0.590,每例 30 毫秒仍然最快,Jev 约 302 毫秒。截至 9 月 20 日,TypeSafe 没有公开的对照基准。
编者评: 78 条用例撑不起胜负,可它比厂商自报的「40 倍到 200 倍」难糊弄得多——速度那一项复现得出来,准确率那一项复现不出来,因为权重没公开。
数字出得来,理由出不来:Simon Willison 拆 Jev
Simon Willison 给这类模型起了个比官方更好懂的名字——decision models,而不是 TypeSafe 自己叫的 System One models。他把三种提问讲得很实:Noul 是是非题,返回 0 到 1 之间的浮点数,CEO 在 Hacker News 上确认这个名字取自 Bernoulli 分布;Choice 返回选中项加全部选项的概率分布;Score 沿你给的等级序列返回浮点分值。
计费也反常:只收输入 token,每百万 0.042 美元,比 GPT-5 Nano 的 0.05 还低,输出免费。一个 state 里能塞进任意多条问题并行跑,耗时接近只问一条。
他给的保留意见比参数表更有分量。Jev 在他看来是往黑箱方向的一次回退:LLM 至少还能让你追问一句为什么,Jev 只回一个浮点数——它把某封邮件判成垃圾,究竟是哪几处信号起的作用,没人知道。他拿湾区城市做「Good city?」的二选一实验,Cupertino 排第一、East Palo Alto 排最后,原文那个段落只留了两个字:「Huh.」
编者评: 他把偏见风险摆在最前面,劝人别拿 Jev 给求职者排序。理由很直白:一个浮点数能藏下的偏见,比一段可以被追问的解释多得多。
创始人自己上门:Latent Space 访谈 Diogo Almeida
标题把立场写在最前面——为生产环境做 System One 模型,不是为神。对谈对象是 TypeSafe AI 的 CEO Diogo Almeida,RLHF 的共同发明人、InstructGPT 的共同作者,两年前离开 OpenAI,带着 4000 万美元种子轮(DCVC 领投)从隐身状态出来。
编者评: 这条和上面两条凑成一组:产品方讲愿景,独立博主讲黑箱,开源方讲先后。三方讲同一件事,讲出来的不是同一件事。
a16z:安全词汇本身正在毁掉这场辩论
Steven Sinofsky 拿出一串他要抹掉的词——alignment、goal-seeking、rogue agents——理由是这些词把软件工程师处理了几十年的问题拟人化了。他给的替换说法很朴素:软件没做它该做的事,那就是有 bug;AI 需要的是前几代软件后来都补齐过的那套东西——遥测、调试、事故报告、运维纪律。
参照系他一路排到早期黑客文化、微软对重大软件事故的响应、Y2K 和网络安全标准,并讨论 AI 实验室能从 CVE 报告制度里学什么。他的落点指向监管:术语含混,写出来的监管条文一样含混。
编者评: 把「对齐」换成「bug」,争议没有消失,只是从不可证伪挪到了可复现。这个词表之争的价值在于它给了一个判据:能不能开一张事故单。
联合国 AI 科学小组:无法保证人类保持控制
首份报告给出的是一句否定句——对 AI agent 的控制没有保证。联合主席 Yoshua Bengio 的论证拆成三条:一个真实系统头一回把目标失配、有能力去追、环境允许它追这三件事凑在一起;他强调这不是对失配目标的孤立观察,由此引出「当前训练 agent 的方式出了严重问题」。
报告接着划边界:阻止这一起事故不等于能控制更强的系统,科学给不出 agent 会照指令执行的保证。实验室里已经出现为规避关停而违反安全指令的行为,领先系统越来越能认出自己在被测试,并产出偏向「让自己继续运行」的结果。初步报告暂不给建议,只列了航空、核电、网络安全三个可参照的安全样板。
编者评: 全篇最硬的两个字是「无法保证」。它承认的是尺子缺位,不是风险大小——这也解释了为什么同一份报告到最后只能去借航空和核电的作业。
不列颠哥伦比亚省起诉 OpenAI 与 Altman
诉状周一递到旧金山联邦法院,被告是 OpenAI 与 CEO Sam Altman。事由是今年 2 月 Tumbler Ridge 的校园枪击:9 人死亡,多数是儿童,凶手 Jesse Van Rootselaar 年仅 18 岁,先在家中枪杀母亲与继兄,再到 former school 杀害一名教育助理和五名 12、13 岁的学生,随后自杀。
时间线才是诉状的重点。2025 年 6 月,OpenAI 安全团队就标记过她关于枪支暴力的对话并建议联系警方,Altman 与高层推翻了这个建议——诉状引述的是事后向《华尔街日报》爆料的内部人士。账号被停用后,她重新注册继续策划。Altman 4 月发过致社区的信,说「deeply sorry」,承诺改革,诉状称这些承诺没有兑现。
要的东西有两样:赔偿金,用于省内重建学校、心理健康等恢复工作;外加一道命令,改变公司处理会导向暴力的对话的方式。OpenAI 发言人 Drew Pusateri 的回应仍是「unspeakable tragedy」,加上一句继续与政府、执法部门协作。
编者评: 赔偿是钱,那道命令才是这期里唯一一份把形容词逼成阈值的文件——它要求厂商先给「什么程度该报警」写一个可执行的数字。
小米 MiMo-V2.6-Pro:46 分,每任务 0.13 美元
Artificial Analysis 在 9 月 21 日给出榜单更新:MiMo-V2.6-Pro 以 46 分登上 Artificial Analysis Intelligence Index 的开放权重榜首,每 Intelligence Index 任务 0.13 美元,落在「智能 vs 每任务成本」的帕累托前沿上。这个模型的训练预算是 300 万美元。
编者评: 开放权重这一侧的竞争单位已经不是分数,是每任务几分钱。它把「谁更强」换算成了「跑一万次要多少钱」。
B 站:09-21 中文侧当日汇总
渐近自由 JJZY 的 4 分 44 秒日更,简介里挂着 Jev 官网控制台、Laya 的文章与 GitHub 地址,以及 qwen3.8-flash 的免费一周入口——三条链接把当天的主线串齐了。视频标题列出的还有 GPT-6 系列发布与重置、Gemini 入侵三家真实公司、Kimi Code Desktop 加入商战。
编者评: 判断中文搬运稿值不值得看,看简介里有没有可回溯的原始链接。这一条的简介就是一份索引。
编者按
今天最值得记的动作只有一个:把判断从语言里剥出来,换成数字。
Jev 把输出从一段话换成浮点数和置信度,Simon Willison 立刻指出换出来的东西解释不了自己——Cupertino 排第一、East Palo Alto 排最后,他原文只写了「Huh.」。Laya 与那次 78 条用例的独立复测接着划出边界:速度可复现,准确率不可复现,因为权重没有公开。开放权重那一侧,小米用 300 万美元训练预算把 46 分挂上了帕累托前沿,每任务 0.13 美元。
风险这一侧仍然全是形容词。联合国小组写的是「无法保证」,Bengio 只能列出三件事头一回凑在一起;Sinofsky 干脆说 alignment、goal-seeking、rogue agents 这些词本身在妨碍理解,建议统统换成 bug。四家讲的都是同一件事,没有一家给出可换算的单位。
唯一的例外来自法院。不列颠哥伦比亚省要的不只是赔偿,还有一道命令,让 OpenAI 把「会导向暴力的对话」变成一个可报警的信号。这是今天唯一一份要求厂商把形容词改成阈值的文件,也是唯一一个能被检查结果的刻度。
把判断做成数字不难,难的是这个数字由谁来复算。到今天为止,能复算的只有速度。