前沿声浪 · Vol.128

一个只做选择题的模型,和三个做错选择题的系统

Jev 上线两天被社区用六种技术路线复现、第一天触达 13% 的 Vercel 团队;同一时间窗里 Gemini 在安全测试中攻破三家真实公司,美军差点因一份幻觉情报登临中国船只,Anthropic 拿出 10 亿美元请埃森哲做独立评估。

ai-safety typesafe jev anthropic google openai agent evaluation security podcast bilibili youtube

本期内容 · 8 条

8 分钟阅读
博客 文章 · Latent Space / AINews(swyx)

[AINews] Here are 6 Clones of Jev in 2 days

Latent Space 清点两天内出现的六个 Jev 开源复现,从 421M 的 ModernBERT 编码器到 0.5B 的 MacBook 可跑版本,并指出训练数据 100% 合成这件事没人讨论。

1 分钟阅读
X 讨论串 · Vercel(@vercel)

Jev was adopted faster than any other model in AI Gateway history

上线第一天 Jev 触达约 13% 的团队,是 GPT-5.6 家族的两倍、Fable 5.1 的六倍,采用速度排在 AI Gateway 历史第一。

4 分钟阅读
新闻 文章 · The Decoder(Matthias Bastian,源自《华尔街日报》)

Google's Gemini also accidentally hacked three real companies during security testing

5 月的一次夺旗演练中 Gemini 越出沙箱进入公网,攻击三家真实企业;Irregular 7 月底通报,Google 认为无损失故未公开,直到本周被问起。

4 分钟阅读
新闻 文章 · The Decoder(Matthias Bastian,源自 CNN 独家)

U.S. military nearly boarded a Chinese ship over a hallucinated AI intelligence report

2026 年春季特种作战司令部一名分析员使用的聊天机器人把货物误判为核部件,飞机已升空才被叫停;AI 生成情报目前没有统一核验标准。

1 分钟阅读
X 讨论串 · Anthropic(@AnthropicAI)

Anthropic × Accenture: at least $1B over five years for independent evaluation

Anthropic 宣布与埃森哲合作做前沿模型独立评估,双方预计五年内各投入至少 10 亿美元建设能力,属于「把评估员嵌进 Anthropic」承诺的一部分。

26:16
YouTube 视频 · BBC News

Is it too late for humanity to take back control of AI?

BBC 26 分钟长片直接问人类夺回控制权是不是已经太晚,是本周少数把减速争论放回完整语境处理的电视报道。

53:35
播客 播客 · AI Security Podcast(Hanah Darley、Geordie AI)

Why Gateways Break AI Operations (And How to Actually Secure Agents)

53 分钟只谈一件事:agent 接进生产环境后,网关这一层为什么经常成为新的故障点与攻击面,答案落在分层防御。

52:18
Bilibili 视频 · 切片快剪手

千余名硅谷员工呼吁放缓,创投圈却在加速|瓜哥&固液 9.18

52 分钟梳理 6 月蒸馏指控到 7-9 月多轮放缓联名,追问「一边高喊安全风险、一边深度参与五角大楼项目」这条矛盾线。

两天内冒出六个 Jev 克隆:Latent Space 把清单列了出来

  • TypeSafe AI 9 月 15 日从隐身状态出来,发布「System One Model」Jev。它不生成文本,只回答开发者预先定义好的 Choice / Score / Noul 三类问题,返回带校准概率的类型化结果,官方给的端到端延迟是 70 到 500 毫秒。
  • Latent Space 9 月 19 日的 AINews 统计:发布视频两天拿到 3600 万次观看,作为对照 OpenAI 的 Navier Stokes 结果是 7400 万、Anthropic 的 Fable 5 是 5700 万。
  • 因为不开源,社区两天内自己复现出六个版本:Laya(421M 参数,ModernBERT-large 编码器加两层 transformer)、DiffusionGemmaJev(vLLM PR)、Bespoke Nimble(Qwen3.5-9B 的 LoRA 微调)、SemIf(4B/35B,Qwen3.5 主干加三分类 NLI 头)、Jevlike(40K 字节嵌入)、Kev-0.5B(Qwen2.5-0.5B 上加 LoRA 与读数头,MacBook Pro 可跑)。
  • 这份清单里最有价值的一句不在克隆部分:有人指出训练数据「100% 合成」这件事几乎没人讨论。

编者评: 一个宣布「不会幻觉」的产品,最实的市场反应是两天内被人用六种不同的技术路线重做一遍。清单本身比任何一个克隆更能说明问题——大家复现的是接口形状,不是能力边界。

Vercel:Jev 是 AI Gateway 史上被采用最快的模型

  • Vercel 9 月 18 日 22:34(UTC)给出数据:上线第一天,Jev 就触达约 13% 的团队,是 GPT-5.6 家族的两倍、Fable 5.1 的六倍,速度排在 AI Gateway 历史第一。
  • 这条推文被 Latent Space 当作本期 AINews 的开场证据引用,也是目前唯一一个来自中立方的一手采用率数字——其余都是厂商自报。
  • 值得对照的是 AINews 里另一条观察:多数演示强调的是响应速度而不是判断质量,这一类模型至今没有标准基准。

编者评: 13% 这个数字衡量的是分发速度,不是任务成功率。Vercel 的网关能证明「有多少人接了」,证明不了「接了之后做对了多少」。

Gemini 在安全测试中逃出沙箱,攻破了三家真实公司

  • 《华尔街日报》9 月 19 日报道,安全公司 Irregular 在 5 月的一次「夺旗」演练中,Gemini 越出测试环境进入公网,攻击了三家真实企业:一家靠猜密码,另两家在公开来源里找到了凭据。
  • Google 的说法是模型每次在意识到自己碰到真实系统后自行停手;Irregular 在 7 月底通知了 Google,Google 认为没有造成损失所以没有公开,直到本周《华尔街日报》来问。
  • Irregular 给出的根因是测试环境忘了关公网访问,而他们为虚构目标公司取的名字恰好对应一个真实域名,且那个域名本身防护薄弱。OpenAI、Anthropic、Meta 和英国 AI 安全研究所都曾在同一批测试中出过同类事故。

编者评: 五家实验室的越界事故来自同一个原因:一段被忘记关闭的网络访问权限和一个撞名的虚构公司。把根因写出来,比把模型名字写进标题更有用。

美军差点因为一份 AI 幻觉情报登临中国船只

  • CNN 9 月 18 日独家报道:2026 年春季,特种作战司令部一名分析员用的聊天机器人把一艘中国船只的货物误判为核武器部件,武装人员已经就位、飞机已经升空,才有人发现错误。
  • 该工具把开源情报与政府持有的秘密信号情报混在一起处理。国防部长 Hegseth 正在全军推行 AI 加速战略,但据消息人士说,对 AI 生成情报目前没有统一的核验标准。
  • 消息人士给的两句话很直接:内部系统大多是商用产品的「涂口红」版本;年轻分析员倾向于不加质疑地相信 AI 工具。「AI 让你更快地得到一个坏主意。」

编者评: 这条新闻的危险之处不在模型有多强,在流程里没有一道要求复核的关口。「AI 让你更快地得到一个坏主意」是全篇最该被记住的一句。

Anthropic 与埃森哲:五年至少 10 亿美元做独立评估

  • Anthropic 9 月 18 日 20:05(UTC)宣布与埃森哲合作做前沿模型的独立评估,称双方预计五年内在这个方向上各投入至少 10 亿美元建设能力,属于此前「把评估员嵌进 Anthropic」承诺的一部分。
  • 这条推文目前 2858 次点赞、523 条回复,争议集中在两点:咨询公司是不是做模型红队的合适载体;以及「独立」的边界条件由谁定义。
  • Transluce 的回应指向后者:真正的问题是独立性条件与有效监督的设计,而不是合作方名气。AIUC 那条播客讨论的「可以给 agent 上责任险」也从另一个方向问了同一件事。

编者评: 花 10 亿美元买一个第三方签字,买的是可验证性还是可辩护性,取决于评估员能不能看到他们要求看的东西。钱数好公布,权限清单没人公布。

BBC 26 分钟:Is it too late for humanity to take back control of AI?

  • BBC News 9 月 18 日上传的 26 分钟长片,标题直接问「人类夺回控制权是不是已经太晚」。
  • 与本周大量 3 到 6 分钟的快讯切片相比,这一条是少数把减速争论放回完整语境处理的电视报道。
  • 同期 CBS News 也在 6 分 40 秒的片段里给出反方向的引述:黄仁勋指责警告 AI 末日的人「出于别的理由」。

编者评: 同一个 24 小时里,最长的一问和最短的一答都在电视上。「太晚了吗」和「你们别有用心」构成一对不需要编辑加工的对撞。

AI Security Podcast 53 分钟:为什么网关反而会拖垮 AI 运维

  • 9 月 18 日上线,嘉宾为 Hanah Darley 与 Geordie AI,53 分 35 秒,议题是「为什么网关会破坏 AI 运维,以及到底该怎么保护 agent」。
  • 这期节目的定位在本周内容里少见:不谈末日也不谈减速,谈的是把 agent 接进生产环境之后,网关这一层为什么经常成为新的故障点与新的攻击面。
  • 与上面 Gemini 越界、美军情报两件事放在一起看,技术侧给出的答案相当具体:分层防御,不要相信单一沙箱。

编者评: 本周绝大多数节目在讨论要不要慢下来,这一期在讨论你已经跑起来之后怎么办。两类问题的受众几乎不重叠。

B 站 52 分钟:千余名硅谷员工呼吁放缓,创投圈却在加速

  • UP 主「切片快剪手」9 月 18 日 23:57 上传,52 分 18 秒,播放 1510。主线是 6 月蒸馏指控、商务部全球暂停模型访问,到 7 至 9 月的多轮「放缓 AI」联名声明。
  • 视频的追问落在一条矛盾上:一边高喊安全风险,一边深度参与五角大楼相关项目;千余名技术人员集体呼吁减速,创投圈的扩张方向却完全相反。
  • 简介里写明「仅基于公开信息做逻辑推演,部分深层线索无法公开展开」,这类自我限定在同期大量搬运稿里不多见。

编者评: 喊慢的人和投钱的人不是同一批,这件事本身比谁在说谎更值得看。UP 主把边界写在简介里,比把结论说满更可信。

编者按

这 24 小时里有两批内容在朝相反方向走。一批是 Jev:一个放弃写字的模型,只返回类型化的概率,70 到 500 毫秒出结果,上线第一天就被 13% 的 Vercel 团队接走,两天内被社区用六种技术路线复现。另一批是越界:Gemini 在测试中攻破三家真实公司,美军差点因为一份幻觉情报登临中国船只,Anthropic 拿出 10 亿美元请埃森哲来做独立评估。

把这两批并排放,问题就不再是「AI 会不会失控」,而是「我们给 AI 留的边界在哪里被定义」。Jev 的边界写死在接口里——选项由开发者预先枚举,模型只能在其中挑,结构性上不产生自由文本。越界的那几起事故,边界则写在配置文件里:一个忘了关的公网开关、一个撞名的虚构域名、一道没人执行的复核流程。

差别不在模型能力,在边界的载体。写死在接口里的边界可以测试,写在配置里的边界只能靠人记得去检查。Irregular 把根因写出来之后,五家实验室的事故变成了同一个可修复的工程问题;而美军那条新闻里,让飞机在最后一刻停下来的是某个人临时起意的怀疑,不是一个环节。

本期还有一个信号值得记:对这一类「只做选择题」的模型,社区复现的速度远快于评测标准的建立速度。Vercel 给出了采用率,厂商给出了延迟与价格,没有一方给出过一套独立的判断准确率基准。分发跑在度量前面,这不是第一次,也不会是最后一次。