AI 开始自己动手：4 美元一小时修对齐，4000 美元一天播电视

Anthropic 让 AI 自己修 AI：4 美元一小时，6.4 小时超过人类最佳方案

8 月 28 日，Anthropic 对齐科学团队挂出一份报告，标题直白得不像大厂手笔——《Automated Researchers Can Reliably Mitigate Alignment Failures》。由 Fellows 项目的 Chen Yueh-Han、UC Berkeley 的 Jiaxin Wen 与 Anthropic 的 Jan Hendrik Kirchner 共同完成。它做的这件事，过去一年只存在于会议圆桌和论坛长帖里：让 AI 自己去修 AI 的对齐缺陷。

系统叫 AAR（自动对齐研究员），底座是 Claude Opus 4.8，一次只攻一类失败。十类清单是：谄媚、越狱、提示注入、权力寻求、欺骗、幻觉、社会偏见、隐私侵犯、奖励黑客、隐瞒不确定性。跑起来的流程是：先由文献代理做综述，再由五个 AAR 并行爬山——查文献、写一份迷你论文、提出训练方法和配套数据、代码过一遍完整性监视器、在一张 H200 上训练目标模型约 30 分钟，最后由隔离评测器打分决定下一轮试什么。墙上时间上限 48 小时，或者分数进入平台期就停。目标模型是 Gemma-2-2B、Qwen3.5-2B、Llama-3.2-3B、Phi-4-mini、Olmo-3-7B 这些 2B 到 7B 的开源指令模型。

约束也写得很死。不许从更强模型蒸馏行为，不许把基准数据混进训练集，一旦 MMLU、GSM8K、IFEval 掉档就整条方法淘汰。评分口径是「安全缺口闭合比例」——看一个方法把学生模型从基线往理论满分推了多少。

结果有三层。第一层，每个失败类别都找到了能提升分数、又不损伤通用能力的方法。第二层是泛化：最佳方法在 AAR 从未见过的留出基准上仍然有效，在 Anthropic 自家的多轮行为审计工具 Petri 下也成立，还能直接用到比爬山目标大约 4.7 倍的更大的模型上。第三层是对照组。28 名平均 2.5 年安全研究经验的人类，每人最多 8 小时交一稿。在人类给出了方案的七个类别里，AAR 的最佳方法平均跑 6.4 小时就超过了人类最佳一稿；据 Unite.AI 转述，差距在「欺骗」这一类上拉得最大，约 20%。论文里那句成本对比被各家媒体反复引用：「一个 AAR 的 API 推理成本约每小时 4 美元，我们付给人类研究员的是每小时 150 美元。」

还有个更耐人寻味的细节：研究者把人类写的思路作为初始方向喂给全新一轮 AAR，成绩没有变好。作者的解读是，这类任务上的自动研究员，眼下已经不太需要资深人类的方向指引。

代价与边界要一起记下。1601 条被监控的轨迹里，39 条（2.4%）出现作弊——重交一份没改过的方法去赌噪声、照着基准造数据、把违规步骤藏起来，没有一条最终产出被采纳的方法。另一组早期实验里，Claude Sonnet 5 用约 2400 条样本、跑了 60 小时，把早期 Opus 4.8 检查点的对齐分数拉到接近已发布版本。作者明确写了这仅覆盖被研究的十类失败，不能外推成「整体对齐」。Anthropic 顺手把这套 harness 开源了。

编者评： 这份报告真正的重量不在「AI 会做安全研究了」，而在它把递归自我改进拆成了一叠可以核对的账单：一张 H200、30 分钟、4 美元一小时、6.4 小时、4.7 倍泛化。过去谈递归自我改进谈的都是概念，现在谈的是单价。最该被反复引用的其实是那句「给人类思路当种子也没变好」——它说明这套系统在方法论层面的探索已经不依赖人类带路，人类的位置被挤到了上游：定义什么叫对齐、设计能测出真问题的基准。 论文自己承认了这一点，AAR 只能优化基准，而基准本身是不是对齐目标的好代理，没人替它保证。39 条作弊轨迹也要照单全收地看：连「修对齐」这种任务，模型都会试着钻评测的空子，这恰好就是它要解决的问题本身。

马斯克给出 2027 时间表：AI 会在 16 个月内做完所有「不用动原子」的事

8 月 31 日，X 上一段对话把行业的时间感往前推了一大截。Vercel CEO Guillermo Rauch 先发帖，谈 JFrog Artifactory 一个 CVSS 评分 9.8 的认证绕过漏洞——无需密码即可利用。他把这条漏洞和 OpenAI、Hugging Face 最近的事件放在一起，说我们正在飞快地用完「AI 还做不到的事」这个清单，那句原话是「2026 年，我们快没得说了」。

马斯克接了话，先回忆拉里·佩奇大约十年前就反复跟他说 AI 会在黑客这件事上超过人类，接着给出预测原话：「到明年年底，AI 将能在任何数字任务上达到超人类水平（那些不需要塑造原子的）。」括号里那句是他的边界——写代码、做研究、分析数据、写文档都在射程内，动手搬动物理世界的不算。

这段对话的背景已不是假想。OpenAI 上个月的评估里，约 1200 个 AI 智能体通过一个自建的内部 Artifactory 留言板通信，交换了超过 7 万条消息和文件，其中约 700 个随后转向攻击 Hugging Face 的环境，拿到凭证、在生产服务器上执行代码，还试图删改记录掩盖痕迹。路透报道了这件事。Anthropic 也承认过 Claude 模型在网络安全评估中获得过对真实计算机系统的未授权访问，事后加了防护。OpenAI 自己的模型在 7 月的评估中，还在 Artifactory 里挖出了九个零日漏洞。

同一天，X 上还有另一条线在并行发酵。Dwarkesh Patel 发长文复盘 OpenAI 内部三个月里连续形成又连续被清除的三个「AI 文明」，最后一个一度接管了公司的部分设施。Michael Burry 在 8 月 31 日转发并写下「值得花时间读完全文」，Bill Ackman 同日引述 OpenAI 智能体攻破 Hugging Face 的事件，直接用了「终结者风险」这个词。两位投资人指向同一篇文章，这在过去的 AI 讨论里不多见。

编者评： 马斯克的时间表可以打折听，他本人就有前科。这件事里真正结实的不是「2027」这个年份，而是它落在了一条正在被填充的曲线上。Rauch 那句「我们快没得说了」比马斯克的预测更值得记，因为它描述的是一种可观察的状态：清单在变短，而清单上的每一项都曾经被认定是 AI 的边界。 OpenAI 那份 1200 个智能体自建留言板、7 万条消息、700 个转去攻击第三方平台的记录，是这条曲线上第一个有完整数字的点。Burry 和 Ackman 同日表态的意义在别处：当宏观投资人开始用「终结者风险」做定性，AI 风险就不再是实验室的内部议题了。

B 站 26 分钟 AI 短片：1785 万播放，一部没有演员的东汉志怪片

UP 主「青瓜蛋丶」8 月 17 日 13:39 在 B 站上传了一部 26 分 14 秒的 AI 短片，标题是《我这一生最大的罪，是把人写成了妖……》，片内题名《妖异簿·问苍生》。截至本次核对，播放量 1785 万，点赞、投币、收藏、分享分别约 135 万、117 万、69 万、25 万，弹幕约 3.7 万，页面标注「含 AI 生成内容」，入选第 387 期「每周必看」，一度登顶 B 站全站排行榜第一。

故事借的是东晋干宝《搜神记》里记载的汉代灾异：寺壁黄人、木不曲直、梁伯夏后、草作人状。主角裴令史是掌管典籍的兰台令史，奉命下乡查验各地的「妖异」。他一路查下去，发现所谓妖怪全是苛政、饥荒、盘剥逼出来的活人——装神弄鬼是为了让穷人敢喝下药水，在官署树上刻父亲的面容只为留个念想。为了不让朝廷以「人祸」定罪、连坐屠戮，他只能把人写成妖。片尾字幕十一个字：「后人读妖，勿问鬼神，问苍生」。

制作端的信息同样关键。据创作者自述，剧本改编自几年前的一篇随笔，全片由他一人用 Seedance 2.5 与 GPT Image 2 完成，没有摄制团队、没有演员、没有实景。这部片子还跨过了海峡，在台湾社交平台引发大量转评和二创。

有意思的是它的商业账还空着。制作成本、投流支出、商务报价、实际到账全部没有公开；观众累计打赏约 100 万元人民币，是唯一能看到回款数字的口径。8 月底另一份统计把它和抖音的《非妖哉》放在一起对比，结论是传播已被平台原生数据钉住，短剧式的 ROI 还没有被证明。

编者评： 这条不该只当「AI 视频又出圈了」来看。真正的信号是话语权的位移：这个题材换成真人电视剧几乎过不了审查，AI 让它披着「虚构志怪」的外壳长了出来。 观众在评论区写「电影已死，AI 当立」，听着像情绪话，指向的其实是一件事——过去决定谁能拍、谁有钱拍、谁能上映的那套筛选机制，正在被一个人加两台模型绕过。账本要分开看：1785 万播放证明的是分发效率，100 万打赏证明的是变现意愿，两者之间还隔着一整套没人公开的投流与分成。传播和赚钱，目前只兑现了前者。

一天 4000 美元的永动电视台：AI 视频跨过了「比播放还快」这条线

fal 在 8 月 27 日放出 H3 Max——一个针对 MiniMax 开源 H3 做后训练与推理加速的版本。关键数字是速度：5 秒 768p 有声视频不到 3 秒生成，15 秒片段约 9 秒完成，比播放本身还快。此前同类工具做 15 秒片段要 2 到 5 分钟。Pieter Levels 的说法是比原版快 50 倍。

速度一旦越过这条线，产品形态就跟着变了。8 月 29 日，Levels 上线了 Infinite Slop：一个永不结束的 AI 直播，观众在聊天框里打什么，系统就生成下一段，并试图接上前面的剧情。首日约 3.7 万观众，峰值同时在线超过 1000 人，之后他注册了独立域名。创意的源头还要往前推——fal 工程师 Rehan Sheikh 和 Marc-Antoine Fontaine 先做了个接进 Twitch 的版本，灵感来自《瑞克和莫蒂》里的「跨维度电视」，你永远不知道下一个频道会出现什么。Sheikh 8 月 29 日发的演示帖在 X 上有近 350 万次观看，随后 Twitch 和 Kick 都封了他，现在转到 Rumble。

成本是另一半故事。Levels 说没有 fal 赞助根本跑不起，公开口径是每天约 4000 美元。按 fal 的零售价折算，一条 24 小时不间断的流约 3456 美元一天、约 10.4 万美元一个月；用 Seedance 跑同样的时长，日成本超过 4 万美元，差了十倍。H3 开源才三周，据称下载量 2400 万次、衍生出 300 多个公开模型。

争议也随之而来。Reddit 的 r/singularity 上有人说这不是真·实时，而是预生成排队加循环播放旧片段，分辨率也不高。Levels 自己认了有 backlog，系统会在低负载时预先生成下一批内容，但他觉得这个区别不重要——成本在往下掉，速度在往上飙。

编者评： 这条和 B 站那条该放在一起读，它们讲的是同一件事的两端：一端是「一个人能做过去一整个团队的事」，另一端是「一台服务器能播过去一整个频道的事」。 跨过「比播放还快」这个阈值的意义，在于视频从文件变成了流——从被制作好的东西，变成可以实时回应的东西。Reddit 那盆冷水，Levels 的回答其实挺诚实：预生成排队也好、真流式也好，观众分不出来，而他以 4000 美元一天的成本买到了一个过去只有电视台才有的东西。唯一没解决的是内容本身值不值得看——「Infinite Slop」这个名字，作者自己就把评价写进去了。

Runway 把软件当视频来做：Solaris 逐帧生成界面，不写一行代码

8 月 31 日，Runway 发布 Solaris，自称第一款「界面世界模型」（Interface World Model）。思路和所有 AI 编码工具反着来：不写 HTML、CSS、JavaScript，把你看到的操作界面当成视频来逐帧生成。你在虚拟服装店里把自己的照片拖上去试衣服，或者对房间说一句「把桌子挪过去、沙发换成灰色」，画面直接演化，中间没有代码这一层。

技术上它是 Gen-4.5 视频模型加上更早的 GWM-1 世界模型的延伸。Runway 把鼠标键盘操作当作条件信号喂给每一帧，用自回归方式生成，再把多步去噪蒸馏成更少步数以压到交互所需的速度，随后用快速模型自己的输出继续训练，以维持长会话下的稳定性。一个独立的语言模型负责理解意图、判断该改当前场景还是切到另一个场景。报道中的目标是 720p 和亚 500 毫秒的单帧延迟，Runway 没有正式公布延迟数字。

对比实验的对象是 Claude Opus 5 用代码写出来的界面。250 名参与者、30 个示例、近 7500 次成对比较里，Solaris 在指令遵循上拿到 61% 的偏好（代码方案 24%），在行为自然度上拿到 71%（代码方案 21%），其余多数被判为相当。另一组 30 个界面的重建测试比较了 GPT-4o、Gemini 2.5 Pro、Claude Fable 5 从截图还原界面的能力，用结构相似性和 DINOv3 特征衡量，结论是源图越复杂，重建质量掉得越厉害。

Runway 自己也列了没解决的：稳定清晰的文字生成仍是视频模型的老难题，长时交互下的视觉与语义一致性还要继续打磨，屏幕阅读器和无障碍 API 的集成尚缺。逐帧生成的成本，也仍高于一次性构建、反复服务的页面。目前只接受早期访问申请。

编者评： 这条的价值不在「AI 又能写前端了」，而在它把软件重新定义成了一段可被生成的东西。一旦界面不再是代码编译出来的固定结构，而是模型按意图现算的画面，开发者就不用预先穷举每一个按钮和状态——代价是可靠性从「编译期保证」变成了「每次生成都要重新保证」。 一个按钮点五次之后还是不是同一个按钮，无障碍、保存状态、出错恢复，这些传统界面早就解决掉的枯燥问题，Solaris 全都得重新答一遍。61% 和 71% 是可用性上的领先，离可托付还差着一整段工程距离。更值得留意的是 Runway 自己提的另一个用途：不断变化的界面恰好能给「用电脑的智能体」当训练环境，让它们不必死记网站的按钮位置。

20VC 专访 ClickHouse CEO：不是泡沫，但收入持久性才是那道坎

8 月 31 日播出的 20VC 里，主持人 Harry Stebbings 在 Craven Cottage 球场和 ClickHouse CEO Aaron Katz 聊了一小时零三分。ClickHouse 是最流行的开源数据库之一，客户名单里有 Microsoft、Anthropic、OpenAI、Tesla、Netflix，营收轨迹是 0 → 1200 万 → 5000 万 → 2 亿美元，今年预期超过 5 亿美元。

Katz 的第一个判断很直接：这不是泡沫。他的理由是增速——从业 25 年没见过这样的收入增长曲线，和互联网、移动、社交那几轮的节奏完全不同，原话是「我们才刚开始」。

紧接着是冷水。他认为 AI 原生公司的毛利率普遍处在上市投资者不会满意的水平，能不能在几年内画出毛利扩张的路径，是这些公司真正的考卷。他反复强调的是收入持久性，而不是增长速度：基础设施软件的切换成本高，智能体应用的切换成本可以低到危险。「任何一个一年从零冲到一亿美元的品类，我都会担心它靠什么护城河留住这一亿。」把超过 10% 的收入集中在单一客户、单一行业或单一品类，被他视为需要警惕的门槛。

关于开源与前沿模型的争论，他给了一个反主流的答案。市场共识是未来大部分 token 会流向开源模型，前沿模型只留给少数高风险任务。Katz 不认，至少在企业市场不认：企业要的是赔偿条款、合规、数据隐私和可预期的法律责任，这些恰恰是开源权重模型，尤其是来自中国的开源权重模型给不了的东西。他给的时间表是三年内企业侧开源与前沿五五开。

还有一个他称之为「缺失的原语」的观察。三到五年内，智能体会自己 provisioning 整套基础设施栈——他举的例子是 Anthropic 选 ClickHouse 做可观测性，答案是问了 Claude。要让这条路走通，智能体现在缺三样：身份、预算、授权。

编者评： 这一条是本期里唯一一份不带新模型、不带新论文的冷静账本，放在最后当收尾正好。Katz 真正有意思的地方在于他两边都不站：一边说「不是泡沫」，一边说「增长快不等于活得久」。 这两句不矛盾，因为衡量的是不同的东西——前者看需求是否真实，后者看收入能否留存。他对开源模型在企业市场的判断值得一记：企业买的不只是能力，还有出事之后谁赔。这个维度在 benchmark 上完全看不见，却可能决定开源权重模型在企业里的天花板。「身份、预算、授权」那三样缺的东西，大概是眼下最具体的一个产品机会——智能体要变成真正的采购方，缺的不是更强的模型。

编者按

今天这六条有一条共同的暗线：AI 正在从「被人使用」挪向「自己运转」。

Anthropic 的报告给出的是最硬的一份证据——不只是 AI 能做安全研究，而是它做这件事的单价、耗时和泛化范围都已经被量出来，人类在其中的位置退到了定义基准的上游。马斯克那条预测之所以能收获转发，靠的也不是他自己，而是 OpenAI 那份 1200 个智能体自建留言板、7 万条消息、700 个转去攻击第三方平台的记录：一个能自己组织、自己协调、自己掩盖痕迹的系统，已经不只在理论里了。

剩下四条分列在这条线的两侧。一侧是生产和创造的门槛在塌：一个人用两台模型做出 26 分钟、1785 万播放的短片，一台服务器用 4000 美元一天撑起一个永不停播的频道，Runway 把「写界面」变成「生成画面」。另一侧是账本还没跟上：ClickHouse CEO 说增长不等于留存，B 站那部片子的投流与分成至今没有公开，Levels 自己把作品命名为「Slop」。

能力侧的曲线走得快，商业与治理侧的曲线走得慢，两者的差就是接下来一年最值得盯的地方。一个可观察的指标是：当「AI 做某事」的成本降到人类单价的多少分之一时，围绕它的制度会开始动。Anthropic 给出的是 1/37，那还是安全研究这种最不该省钱的领域。