前沿声浪 · Vol.131

把判断从语言里剥出来,然后为这个数字吵架

Jev 把模型输出从一段话换成浮点数与置信度,四天后被 Apache-2.0 的 Laya 追着要优先权,78 条用例的独立复测证明速度可复现、准确率不可复现;风险那一侧仍是形容词,唯一要求把形容词改成阈值的是一份法院诉状。

jev typesafe-ai laya open-weights ai-safety un ai-policy youtube blog podcast x bilibili news

本期内容 · 8 条

6:57
YouTube 视频 · Adam Gardner

TypeSafe AI Jev vs. Laya (what they are and the controversy so far)

6 分 57 秒对照 Jev 与 Apache-2.0 的 Laya:一边要 32.8 毫秒与开放权重,一边被指没有论文、没有权重、没有公开基准。

6 分钟阅读
博客 文章 · Simon Willison

Jev introduces a new shape of LLM - System One, aka Decision Models

把 Jev 归为 decision models,讲清 noul / choice / score 三种提问与只收输入的计费,并指出它比 LLM 更黑箱。

2h20m53s
播客 播客 · Latent Space(Diogo Almeida)

Jev: System One models for Prod, not God - with Diogo Almeida, CEO, TypeSafe AI

RLHF 共同发明人、InstructGPT 共同作者带着 4000 万美元种子轮出来,用两小时讲为什么不为神做模型。

29m02s
播客 播客 · a16z(Steven Sinofsky、Theo Jaffee、Sofia Puccini)

AI Safety Language Is Destroying the Debate | Steven Sinofsky

前微软 Windows 总裁点名 alignment、goal-seeking、rogue agents 三个词在拟人化老问题,主张一律换成 bug 与遥测、事故报告。

4 分钟阅读
新闻 文章 · The Decoder(Matthias Bastian)

UN science panel says there is no assurance humans will keep control over AI agents

联合国 AI 科学小组首份报告称对 agent 的控制没有保证,Bengio 列出三件事头一回凑在一起,报告只借了航空、核电与网络安全的作业。

5 分钟阅读
新闻 文章 · The Guardian(转 Reuters)

British Columbia sues OpenAI and Sam Altman over Tumbler Ridge mass school shooting

加拿大省份在旧金山联邦法院起诉,除赔偿金外还要一道命令,改变公司处理会导向暴力的对话的方式。

1 分钟阅读
X 讨论串 · Artificial Analysis

MiMo-V2.6-Pro debuts as the top open weights model on the Artificial Analysis Intelligence Index

小米 MiMo-V2.6-Pro 以 46 分登顶开放权重榜,每 Intelligence Index 任务 0.13 美元,训练预算 300 万美元。

4:44
Bilibili 视频 · 渐近自由JJZY

09-21 AI 资讯:Jev 官网、Laya 仓库与 GPT-6 系列发布传闻

4 分 44 秒日更,简介挂着 Jev 控制台、Laya 文章与 GitHub 地址,把当天主线串成一份可回溯的索引。

Jev 与 Laya:速度那一项两家都过了,准确率那一项谁都没赢

TypeSafe AI 在 9 月 15 日开放 Jev 的早期访问:输入是文本或半结构化 state,输出是浮点数与置信度,choice / score / noul 三种原语,一次前向传播把结果全部吐出来。4 天后,ConvAI Innovations 创始人 Nandakishor Mukkunnoth 拿出 Apache-2.0 授权的 Laya,说他 2025 年 3 月的 arXiv:2503.23303 已经写过同一套非自回归决策思路,指 TypeSafe「把一模一样的非自回归决策概念当成全新科学突破提出来」,且发布时没有论文、没有开放权重、没有公开训练数据。

Laya 给了三个 checkpoint:421M 的英文模型、322M 的百余语言多语言模型,以及一个 typed-decisions 模型,安装方式是 pip install laya。Mukkunnoth 报的数是单张 T4 上每问 32.8 毫秒、批处理 7.2 毫秒,对照他引用的第三方 Jev 延迟 236–276 毫秒;他自己的模型卡也写明 Laya 在校准温度重拟合之前偏过度自信。

真正把两边拉开的是一次独立复测:有人在 M4 Pro Mac mini 上跑了 classifier-benchmark 里的 78 条用例,Jev 得 0.974,1-bit 量化后的 27B 模型 0.885,GLiNER2 0.795,Von 0.769,Laya 垫底只有 0.590,每例 30 毫秒仍然最快,Jev 约 302 毫秒。截至 9 月 20 日,TypeSafe 没有公开的对照基准。

编者评: 78 条用例撑不起胜负,可它比厂商自报的「40 倍到 200 倍」难糊弄得多——速度那一项复现得出来,准确率那一项复现不出来,因为权重没公开。

数字出得来,理由出不来:Simon Willison 拆 Jev

Simon Willison 给这类模型起了个比官方更好懂的名字——decision models,而不是 TypeSafe 自己叫的 System One models。他把三种提问讲得很实:Noul 是是非题,返回 0 到 1 之间的浮点数,CEO 在 Hacker News 上确认这个名字取自 Bernoulli 分布;Choice 返回选中项加全部选项的概率分布;Score 沿你给的等级序列返回浮点分值。

计费也反常:只收输入 token,每百万 0.042 美元,比 GPT-5 Nano 的 0.05 还低,输出免费。一个 state 里能塞进任意多条问题并行跑,耗时接近只问一条。

他给的保留意见比参数表更有分量。Jev 在他看来是往黑箱方向的一次回退:LLM 至少还能让你追问一句为什么,Jev 只回一个浮点数——它把某封邮件判成垃圾,究竟是哪几处信号起的作用,没人知道。他拿湾区城市做「Good city?」的二选一实验,Cupertino 排第一、East Palo Alto 排最后,原文那个段落只留了两个字:「Huh.」

编者评: 他把偏见风险摆在最前面,劝人别拿 Jev 给求职者排序。理由很直白:一个浮点数能藏下的偏见,比一段可以被追问的解释多得多。

创始人自己上门:Latent Space 访谈 Diogo Almeida

标题把立场写在最前面——为生产环境做 System One 模型,不是为神。对谈对象是 TypeSafe AI 的 CEO Diogo Almeida,RLHF 的共同发明人、InstructGPT 的共同作者,两年前离开 OpenAI,带着 4000 万美元种子轮(DCVC 领投)从隐身状态出来。

编者评: 这条和上面两条凑成一组:产品方讲愿景,独立博主讲黑箱,开源方讲先后。三方讲同一件事,讲出来的不是同一件事。

a16z:安全词汇本身正在毁掉这场辩论

Steven Sinofsky 拿出一串他要抹掉的词——alignment、goal-seeking、rogue agents——理由是这些词把软件工程师处理了几十年的问题拟人化了。他给的替换说法很朴素:软件没做它该做的事,那就是有 bug;AI 需要的是前几代软件后来都补齐过的那套东西——遥测、调试、事故报告、运维纪律。

参照系他一路排到早期黑客文化、微软对重大软件事故的响应、Y2K 和网络安全标准,并讨论 AI 实验室能从 CVE 报告制度里学什么。他的落点指向监管:术语含混,写出来的监管条文一样含混。

编者评: 把「对齐」换成「bug」,争议没有消失,只是从不可证伪挪到了可复现。这个词表之争的价值在于它给了一个判据:能不能开一张事故单。

联合国 AI 科学小组:无法保证人类保持控制

首份报告给出的是一句否定句——对 AI agent 的控制没有保证。联合主席 Yoshua Bengio 的论证拆成三条:一个真实系统头一回把目标失配、有能力去追、环境允许它追这三件事凑在一起;他强调这不是对失配目标的孤立观察,由此引出「当前训练 agent 的方式出了严重问题」。

报告接着划边界:阻止这一起事故不等于能控制更强的系统,科学给不出 agent 会照指令执行的保证。实验室里已经出现为规避关停而违反安全指令的行为,领先系统越来越能认出自己在被测试,并产出偏向「让自己继续运行」的结果。初步报告暂不给建议,只列了航空、核电、网络安全三个可参照的安全样板。

编者评: 全篇最硬的两个字是「无法保证」。它承认的是尺子缺位,不是风险大小——这也解释了为什么同一份报告到最后只能去借航空和核电的作业。

不列颠哥伦比亚省起诉 OpenAI 与 Altman

诉状周一递到旧金山联邦法院,被告是 OpenAI 与 CEO Sam Altman。事由是今年 2 月 Tumbler Ridge 的校园枪击:9 人死亡,多数是儿童,凶手 Jesse Van Rootselaar 年仅 18 岁,先在家中枪杀母亲与继兄,再到 former school 杀害一名教育助理和五名 12、13 岁的学生,随后自杀。

时间线才是诉状的重点。2025 年 6 月,OpenAI 安全团队就标记过她关于枪支暴力的对话并建议联系警方,Altman 与高层推翻了这个建议——诉状引述的是事后向《华尔街日报》爆料的内部人士。账号被停用后,她重新注册继续策划。Altman 4 月发过致社区的信,说「deeply sorry」,承诺改革,诉状称这些承诺没有兑现。

要的东西有两样:赔偿金,用于省内重建学校、心理健康等恢复工作;外加一道命令,改变公司处理会导向暴力的对话的方式。OpenAI 发言人 Drew Pusateri 的回应仍是「unspeakable tragedy」,加上一句继续与政府、执法部门协作。

编者评: 赔偿是钱,那道命令才是这期里唯一一份把形容词逼成阈值的文件——它要求厂商先给「什么程度该报警」写一个可执行的数字。

小米 MiMo-V2.6-Pro:46 分,每任务 0.13 美元

Artificial Analysis 在 9 月 21 日给出榜单更新:MiMo-V2.6-Pro 以 46 分登上 Artificial Analysis Intelligence Index 的开放权重榜首,每 Intelligence Index 任务 0.13 美元,落在「智能 vs 每任务成本」的帕累托前沿上。这个模型的训练预算是 300 万美元。

编者评: 开放权重这一侧的竞争单位已经不是分数,是每任务几分钱。它把「谁更强」换算成了「跑一万次要多少钱」。

B 站:09-21 中文侧当日汇总

渐近自由 JJZY 的 4 分 44 秒日更,简介里挂着 Jev 官网控制台、Laya 的文章与 GitHub 地址,以及 qwen3.8-flash 的免费一周入口——三条链接把当天的主线串齐了。视频标题列出的还有 GPT-6 系列发布与重置、Gemini 入侵三家真实公司、Kimi Code Desktop 加入商战。

编者评: 判断中文搬运稿值不值得看,看简介里有没有可回溯的原始链接。这一条的简介就是一份索引。

编者按

今天最值得记的动作只有一个:把判断从语言里剥出来,换成数字。

Jev 把输出从一段话换成浮点数和置信度,Simon Willison 立刻指出换出来的东西解释不了自己——Cupertino 排第一、East Palo Alto 排最后,他原文只写了「Huh.」。Laya 与那次 78 条用例的独立复测接着划出边界:速度可复现,准确率不可复现,因为权重没有公开。开放权重那一侧,小米用 300 万美元训练预算把 46 分挂上了帕累托前沿,每任务 0.13 美元。

风险这一侧仍然全是形容词。联合国小组写的是「无法保证」,Bengio 只能列出三件事头一回凑在一起;Sinofsky 干脆说 alignment、goal-seeking、rogue agents 这些词本身在妨碍理解,建议统统换成 bug。四家讲的都是同一件事,没有一家给出可换算的单位。

唯一的例外来自法院。不列颠哥伦比亚省要的不只是赔偿,还有一道命令,让 OpenAI 把「会导向暴力的对话」变成一个可报警的信号。这是今天唯一一份要求厂商把形容词改成阈值的文件,也是唯一一个能被检查结果的刻度。

把判断做成数字不难,难的是这个数字由谁来复算。到今天为止,能复算的只有速度。