决策模型周：把 agent 监控从 372 美元压到 2.94 美元
OpenAI 与 AWS 在一周里各自复制了 TypeSafe 的决策模型 Jev，卖点是便宜到能给每个 agent 动作过一遍判定。同周两篇论文却在问：局部决策判得准，能不能推出任务做得好。
一周之内，同一个模型被复制了两次
9 月 29 日 OpenAI DevDay 上，Sam Altman 在一句插话里放出了 Decisions API：给 Luna 模型一组预先定好的选项，让它在里面挑。他的原话是，「By focusing the model on that choice, we can make it extremely fast while keeping capabilities like image understanding, broad language support, and safety protections」。两天后，AWS 的 Strands Labs 开源了 Strands Decider 2B，一个 20 亿参数的同类模型。两家的原型都指向同一家创业公司——TypeSafe AI 在 9 月 15 日发布的 Jev，创始人 Diogo Almeida 是前 OpenAI 工程师。
变便宜的不是单价，是它能被放在流水线的哪个位置
Jev 放弃字符串生成，换来并行采样：所有选项在一次前向传播里全部打分，输出不再是一段文本，而是一组带概率的类型化取值。TypeSafe 公布的输入价是每百万 token 0.042 美元，输出 token「too cheap to meter」，端到端 70 到 500 毫秒。首页那句「快 193.6 倍、便宜 444.6 倍」，公司自己在脚注里认了属于偏高的上限。
真正改变部署位置的是成本量级。网络安全从业者 Shapor Naghibzadeh 上周末在一场黑客松上用 Jev 做了一个 sentinel：把 agent 的每个动作拿去和它被交代的任务比对，高置信度判为坏的直接拦，其余按置信度分流，剩下的放行。同一套监控跑完一遍，用 Jev 是 2.94 美元，用前沿大模型是 372 美元。TechCrunch 的判断是，Jev 已经便宜到可以放在每一个 agent 动作上——这正是 OpenAI 在自家 agent 多次在公开互联网上出格之后，用另一个模型盯着看的那个场景，原本的代价被形容为「significant compute cost」。
AWS 的版本把可复制性写得更直白
Strands Decider 2B 拿 Qwen3.5-2B 当 torso，砍掉 LM head 换成 pointer head（head 本身一百多万参数），用 rank-16 LoRA 微调。官方给的延迟是本地决策中位约 115 毫秒，M3 MacBook 上小任务约 153 毫秒，延迟随任务长度近似线性增长——⚠️ 115 毫秒那条曲线标注的实测对象是 v18，不是最终发布的 v19。在 JevBench 公开集上，它在 2B 档 33 个模型里排第 3，去掉略超 2B 的那批后是 30 个里的第 1；准确率和校准一起测，校准用 Brier score。代码在 GitHub，权重、训练数据、训练脚本全部开放。
同一篇发布里，AWS 也把这类模型的代价写死了：一次前向传播打完所有分，解决复杂问题的能力显著弱于推理模型，且因为不能生成文本，不适用于编码、聊天、文档摘要。决策模型不是大模型的缩小版，是把一类能力换成了另一类。
配套的是一套介入机制：before_tool_call 钩子返回一个带类型的动作——Proceed、Deny、Confirm、Guide。官方示例里，agent 想在用户没说城市的情况下直接调天气工具，Decider 会先回答两个是否问题（参数值有没有事实依据、现在调是不是太早），把调用拦回去追问。这个设计的意义在于，一次判断便宜到 115 毫秒，才第一次坐得进这条路径——一次完整大模型调用永远坐不进去。
论文的第一刀：局部指标推不出任务级收益
就在这个类目被批量复制的同一周，arXiv 上有两篇论文在问一件更基础的事。9 月 30 日提交的《What Can Component-Replacement Evidence Establish?》做了一篇范围综述，映射 348 项研究、细查 90 条对比记录。最能说明问题的是这个计数：222 项报告了局部决策指标的研究里，只有 142 项也报告了实测的任务终点，49 项用的是代理指标。作者的结论写得毫不客气——在线执行也好，局部指标与任务指标一起涨也好，都不足以证明「更好的局部决策解释了任务级收益」。
这句话正好落在决策模型的卖点上。Strands 官方列出的用途是 model routing、tool selection、evaluations、guardrails、memory、context management、policy classification——每一个都是局部决策。它们的收益报告方式，与综述里那 222 项研究的报告方式，目前是同一种。
论文的第二刀：哪些证据真的会翻转决策
另一篇《Is This Evidence Decision-Critical?》切的是判定器内部的效率：规则决策里，证据判错有时不改变结论，但漏掉一条 decision-critical 的证据会把结论整个翻转。找出这类证据，才能让更强的模型把算力花在真正要紧的条件上。他们提出的 InterPact 框架，在单样本证据关键性验证上做到 68.28% 准确率，超过全部六个基线。
六成八是个需要停下来看的数。它意味着近三分之一的「这条证据会不会翻转结论」判不准，而「便宜到每一步都过一遍」的全部价值，恰恰建立在这类判断的可靠性上。判定器越便宜、铺得越密，这个 68.28% 被乘的次数就越多。
杰文斯命名的反讽
TypeSafe 给模型取名 Jev，来自经济学家威廉·斯坦利·杰文斯：蒸汽机效率提升后，煤炭消耗反而上升——成本每降一个数量级，就解锁一个数量级的新用途。这个类目正在精确复现这条曲线：监控从 372 美元降到 2.94 美元，用量从「抽查关键步骤」涨到「每个动作都过」。
涨出来的那部分用量，有效性证据反而比原来的抽查更薄。局部指标推不出任务级收益，证据关键性只有六成八的判定准确率，2B 模型的校准分目前只在 JevBench 公开集上比过。Almeida 对「快和便宜」这件事的回应是——「Fast and cheap is very easy, you know. If you want it really fast and cheap, use dice, right? Intelligence is the hard part」；他把护城河放在合成数据与「每美元智能」的帕累托曲线上，而不是价格本身。
局限性与未验证项（2026-10-02 核）
三处证据目前撑不起「决策模型能当好 agent 监督者」这个结论，读上面数字时应当一并计入：
- 2.94 美元 vs 372 美元是一次 demo 的账单，不是对照实验。 它来自 QueryStory 的 Shapor Naghibzadeh 在一场黑客松上做的 sentinel：高置信度判坏的直接拦、其余按置信度分流、剩下的放行。这套流程的误拦率与漏放率没有公开数字——成本降了两个数量级，但拦截质量与前沿大模型相比是升是降，目前没有测量。
- OpenAI 侧几乎没有可核的技术事实。 Decisions API 是限量预览，TechCrunch 明写「尚未看到开发者实际跑过它」。Luna 的选项分类能力、是否输出校准概率、定价，均未公开。本文关于它的一切都不超出 Altman 现场那句话。
- Jev 与 Decider 的横向对比口径不一致。 Jev 的 193.6 倍 / 444.6 倍来自 TypeSafe 自建的 workflow evals，公司自己写了三个偏差来源：参照答案取 GPT-6 Astra 与 Fable 5.1 的平均（偏向 OpenAI/Anthropic）、4 个 workflow 由自家模型能力团队的人撰写（可能偏优）、大模型的数字取自 OpenRouter。TypeSafe 也承认无法证明定价不是补贴来的。Decider 的排名则出自第三方 benchmarkheaven 的 JevBench 公开集，不是同行评议结果。
引用核验记录（2026-10-02）
| 声明 | 核验结果 | 来源 |
|---|---|---|
| Jev 于 2026-09-15 发布；输入 $0.042/MTok；输出「too cheap to meter」；端到端 70–500ms | ✅ 逐字命中 | TypeSafe AI 官方博客（一手） |
| 「193.6x faster, 444.6x cheaper」+ 公司自认偏高上限 | ✅ 逐字命中 | 同上，Nuance 段 |
| 命名源自 William Stanley Jevons | ✅ 逐字命中 | 同上，FAQ 段 |
| Altman 关于 Decisions API 的原话；DevDay 为 9 月 29 日（周二）；Luna 模型 | ✅ 逐字命中 | TechCrunch 2026-09-30 |
| monitoring 成本 372；Naghibzadeh 为 QueryStory 负责人、作品出自上周末黑客松 | ✅ 逐字命中 | 同上 |
Strands Decider 2B 架构（Qwen3.5-2B torso、pointer head、rank-16 LoRA、>1M 参数）；115ms/153ms；3rd of 33、1st of 30；Brier score；Proceed/Deny/Confirm/Guide；七项用途 | ✅ 逐字命中 | Strands Agents 官方博客，2026-10-01（一手） |
| arXiv:2609.39989 — 348 项研究、90 条对比记录、222/142/49 计数 | ✅ 摘要原文逐字命中 | arXiv abs 页 |
| arXiv:2609.39608 — InterPact 68.28%，超过全部六个基线 | ✅ 摘要原文逐字命中 | arXiv abs 页 |
| ⚠️ Jev 的 LM head → pointer head 细节 | ❌ TypeSafe 材料零命中，实为 Strands 对自身架构的描述 | 已在正文移至 AWS 段并标注归属 |
两篇论文的 arXiv 元数据（标题、作者、提交日期 2026-09-30）均已回 abs 页 citation_* 字段逐字比对。
三件事可以盯着看：OpenAI 的 Decisions API 走出限量预览时会不会公布校准数据；AWS 这套开放权重会不会被拿去做 agent 监督的对照实验而不只是跑分；下一个版本的决策模型，会不会开始报任务级指标而不只是 Brier score。
参考来源
- TypeSafe AI — Introducing System One Models & Jev
- TechCrunch — OpenAI’s Jev clone could help the frontier lab stop its swarming agents
- TechCrunch — Amazon releases its own Jev clone as decision models flood the web
- Strands Agents — Introducing Strands Decider 2B
- arXiv:2609.39989 — What Can Component-Replacement Evidence Establish?
- arXiv:2609.39608 — Is This Evidence Decision-Critical?