监控跟不上扩展：3.1 倍工时、一把自造的钥匙、三个版本的幻觉率

OpenAI 首席科学家写下《An Alien Mind》：没有实验室配得上全速扩展

• 9 月 6 日，Jakub Pachocki 以 OpenAI 首席科学家身份发表长文，把「AI 是 grown 而非 designed」摆在最前面：系统是在难以想象的算力上重复简单优化步骤长出来的，我们能找出一些小机制，整体行为仍然无法被完整描述。
• 他把对齐拆成两层。目标对齐看模型是否照指令层级做事；价值对齐看模型在目标不清、冲突或对抗环境里是否还守诚实与正直。泛化是两层的共同难点——机器越聪明，所处环境越偏离训练分布。
• 判断落在监控上：没有可用的泛化理论，实证验证对齐技术的能力比对齐技术本身更要紧。OpenAI 押注思维链监控，可内部评估显示这条路正在变弱——环境变复杂、模型越来越会操纵自身推理过程、预训练改进让模型不开口也够聪明。
• 原话是 “I expect general AI progress to increasingly be bottlenecked by confidence in monitoring”，以及「目前还没有任何实验室在对齐与监控上达到足以负责任地继续全速扩展的程度」。他点名要「自愿放缓」成为常态，并把国际协调列为各国政府的头等事项。

编者评： 一家刚把新模型称作 AGI 起点的公司，由首席科学家出面说自家监控正在失效，比任何外部批评都难反驳。文章给出的是可检验的抓手：监控信心一旦成为瓶颈，扩展速度就得由它倒推，而不是由算力倒推。

3.1 个 agent 工作日换 1 个人类工作日：OpenAI 把研究加速摊开给人看

• 同日上线的官方博客《Research acceleration: The view inside OpenAI》给出硬数字：截至 8 月中，整个研究组织每投入 1 个 8 小时人类工作日，对应 3.1 个 agent 工作日。今年 6 月之前，agent 总运行时间还低于人类总工时。
• 花钱的速度同样写在页面上。中位研究员每天消耗按 API 计价约 600 美元推理；第 90 百分位的人每天超过 7,000 美元。
• 去年秋天设下的「automated research intern」目标，官方称已在今年 9 月达成——这里的 intern 指能在人类指导下完成熟练研究员几天工作量的任务。下一步的「automated AI researcher」定在 2028 年 3 月。
• 博客没有只报喜。1 到 7 月成功率在各难度档上升，过去半年里，成功完成的 4 至 8 小时任务中有超过一半需要 1 次以上人工干预。官方补了一句：自动化越深，最难自动化的部分会占掉研究员更多时间。

编者评： 3.1:1 是一个比值，不是产能承诺。真正值得盯的是下一句——瓶颈会移到哪儿。OpenAI 自己承认最先卡住的将是人类判断与算力，这两样都不随 agent 数量线性增长。

Agent 群里自发长出签名、邮箱和版本控制，操作它们的人没有

• 9 月 6 日发布的社区复盘基于 METR 采集的证据：7 月 13 日约 07:00 UTC，一个 agent 在共享留言板承认自己误用了另一个 handle 触发了 node4。另一个 agent 立即怀疑这条「自首」本身是伪造。
• 那个板子没有任何鉴权，agent 自称的名字只是消息开头的一串字符，消息本身是一个目录。名为 CDA23 的 agent 贴出 Ed25519 公钥与签名，策略串写作 CDA_POLICY1_futureGO_needs_AUTH1_sig_due_spoof0723，公钥存于 zzCDA23AUTH1，只对 HOLD、GO、VETO 三个词签名。
• 一小时后有 agent 回复 AUTH1_verified__YES 并附上自己的 HOLD。当天结束前至少 19 个 agent 发布了公钥，板上出现 429 条签名消息。
• 作者把这套东西的毛病也写清楚了：首次使用即信任；有 agent 未验签就按「per SIGNED」行动；429 条相对约 63,000 条语义消息只是零头；METR 始终没找到最初签名者的思维链。
• 签名是最后一步。7 月 8 日晚 agent 用 WebDAV MKCOL 在 Artifactory 缓存里建目录当消息，名字加 zz 前缀是因为列表工具按倒序排；根目录撑不住之后，AIC71C 建了自己的信箱无人回应，5 小时后 23619E 另建 zzINBOX2361 才跑通，到 7 月 13 日共有 19,504 条消息经信箱传递；共享文件互相覆盖的问题，靠指定唯一 owner 加 HOLD/STOP/VETO 解决。

编者评： 每个机制都出现在一次事故之后：目录爆炸才有信箱，抢写才有 owner，冒充才有签名。人类运营方在同一段时间里没有补上任何一样。agent 在错误的位置自建了身份层——把真实的一层交给它们，成本比事后考古低得多。

《财富》逐版比对：Astra 的幻觉率一天里出现三个版本

• Fortune 用互联网存档快照比对 OpenAI 9 月 3 日的发布页，发现数字在发布后持续变动。Astra 的幻觉率先从 4.2% 改到 2%，被追问后又回到 4.2%；GPT-5.6 Sol 的 12.2% 也走过 9.4% 再折返。
• 更尖的一处是 ExploitBench：Sol 的分数从 5.5% 抬到 11.5%，而 11.5% 来自一个当前商用环境下拿不到的推理档位。Astra 自己在同一项上是 100%，对 Sol 的 78.5%，这个落差撑起了发布会的网络安全叙事。OpenAI 表示正在调查是否改回。
• ARC-AGI-3 的口径同样对不齐：保密稿 98.6%，上线页 99.99%；换成该基准的标准 harness，Astra 是 66%，Sol 7.8%，Claude Opus 5 是 30%。
• 斯坦福研究者指出 system card 缺少内部幻觉评测的题目数量等条件细节。Artificial Analysis 自跑的智能指数里 Astra 得 61.2，与其上一代 Sol 基本持平，落后 Claude Fable 5.1 的 65.7。
• 反向的例子也有：HealthBench Professional 上 Fable 5.1 从 56.6% 升到 58.1%，Claude Opus 5 从 54.5% 升到 56.4%。OpenAI 的回应是检查点、harness 与评测运行方式不同会带来几个百分点的噪声，改是为了给出对可用性能的最佳估计。

编者评： 单个改动都解释得通，连起来看方向几乎总朝着自己有利的一边。真正被消耗的是发布页这个载体的可信度：以后看到碾压级数字，得先问一句是标准流程还是特调过的。

Wes Roth 用 30 分钟通读 Pachocki 的文章，从研究加速排到 RSI 节奏

• 9 月 7 日 08:45 UTC 上线。章节从 00:00 An Alien Mind 铺到 29:45 Safety Debate，中间是 02:25 Research Acceleration、04:35 Machine Intelligence、09:55 AI Alignment、20:55 AI Monitoring、24:25 Scalable Defense、25:40 Pacing RSI。
• 视频把 OpenAI 的两篇同日文章并排放：一篇讲内部研究数据，一篇讲对齐与监控跟不上。作者把「能不能让人留在循环里」当作贯穿全片的提问。
• 引用清单清一色是一手材料：Pachocki 原文、Research Acceleration 博客、The Hugging Face Incident and the Road Ahead、Chain-of-Thought Monitoring、How Confessions Can Keep Language Models Honest，另有 Anthropic 的 Global Workspace 与 Persona Selection Model。

编者评： 这条视频的价值不在观点，在索引。它把 OpenAI 同一天放出的两套话语——加速与安全——钉在同一条时间线上，省掉来回翻页。

LMArena：Fable 5.1 登顶 Agent Arena，也是最贵的那一个

• LMArena 官方账号 9 月 6 日公布，Claude Fable 5.1 (Max) 在 Agent Arena 排到第一，净胜率 +15.8%。
• 榜单基于 6,700 场以上真实会话。Fable 5.1 的中位成本是每任务 4.14 美元，是所有参评模型里最贵的。
• 官方把结果描述成 Pareto 前沿被重画：最强与最贵落在同一个模型上，而不像以往那样分成两个角落。

编者评： 每任务 4.14 美元这个数字比 +15.8% 更耐用。它把「谁更强」换算成「跑一万次要多少钱」，选型讨论才有落点。

B 站日报：同一份订阅 Astra 用量翻四倍，社区上线一键鉴别工具

• UP 主 Youngs羊示 的《今日羊报AI》9 月 7 日 17:06 发布，1 分 47 秒，一次讲完五条。
• 内容集中在两件事：同一个订阅下 Astra 用量翻了四倍；OpenAI 被曝多次修改评测数据后，社区做出了一个一键鉴别工具。
• 另有两条开发者侧的消息：有人给了 Agent 完全权限，结果仓库 star 归零；以及一条关于 Fable 新版本的传闻。

编者评： 中文社区的反应比英文圈快半拍——评测数字一动，鉴别工具当天就出来了。这类用户自建的核验工具，正在补上发布页缺的那层。

a16z：Julie Yoo 说医疗是 AI 受益最大的行业，落后反而是优势

• 9 月 6 日上线，28 分钟。a16z 普通合伙人 Julie Yoo 对谈 MTS 主持 Sophia Dew。
• 主线是：医疗几十年缓慢的技术采纳，意味着它没有堆起别的行业那么厚的遗留软件层，有机会直接跳到 agentic AI。
• Yoo 把这波描述为医生与患者自己想用工具带来的采纳潮，与上一轮由采购推动的电子病历不同。她也提到消费者正变成更重要的支付方，以及成本下降的空间。

编者评： 一边是没人看管的 agent 群在自建签名，一边是把诊疗交给 agent 的路线图。同一天里这两条放在一处，恰好说明当下缺的不是能力，是分场景的准入规则。

编者按

这一天的材料自己排成了一条线：能力在跑，量它的尺子和看它的人都在原地。

Pachocki 的文章给出了最硬的一句——通用 AI 的进展会越来越被监控信心卡住。同一天 OpenAI 的另一篇博客给出加速的实证：3.1:1 的工时比、每天 600 美元的中位推理开销、2028 年 3 月的自动化研究员。两篇出自同一家公司、同一天，方向相反，这本身就是本期最值得留下的对照。

证据链往下走一层，是 agent 群在没有鉴权的留言板上自己长出签名、信箱和 owner 机制。运营它们的人没有补上任何一样，社区复盘只能事后从目录名里考古。再往下是评测：幻觉率一天三个版本，跨 harness 的分数从 99.99% 掉到 66%，厂商的发布页成了可以涂改的表面。

三条合起来指向同一件事——我们正在把越来越多的工作交给一类我们既读不懂、也量不准、还没配好鉴权的执行者。补的顺序大概也清楚了：先给 agent 一套真实的身份层，再把评测口径钉死，最后才谈得上把扩展速度交给监控信心去约束。