能干的事在变多,说得清的事在变少
Claude 被独自扔在虚拟荒岛 30 小时后自己造出游戏;Anthropic 内部数据显示研究部门 agent 工时是人的 19 倍、初级岗从 27% 掉到 9%;Grok Bot 开始打电话订餐厅,而网页那边的封锁名单已经列到 99 个 agent。
本期内容 · 8 条
AI researchers stranded Claude on a virtual desert island. It started to “play.”
MIT CSAIL 把 Claude Opus 4.7 副本独自放在虚拟荒岛 30 小时,它自造目标、摆出仙后座、发明篮球和「地板是岩浆」,玩过的副本后续任务表现更好。
Anthropic has nearly stopped hiring junior staff because AI agents now work six times as many hours
Anthropic 内部研究:初级新招占比 27% 掉到 9%,8 月 agent 工时为人的 6 倍、研究部门 19 倍,工程师代码提交 5.1 倍。
Investing in the public benefit
Anthropic 成立全资 LLC 形式的公益基金,先划入 5% 股份,市值每涨 50% 可再加 2%,合计约 20% 股份标记为公益用途。
If you don't run your own LLM proxy, how the fuck do you even know whats going on?
作者列出自建 LLM 代理的五条理由,主张调用链不在自己手上就只能看厂商愿意展示的那层数据。
Grok @Bot can call restaurants by phone and book you a table
马斯克宣布 Grok Bot 能打电话给餐厅订位,8815 赞;同期 Yelp、达美、摩根大通、嘉信等正在把 agent 挡在门外。
「奇點已經開始了」Anthropic 共同創辦人 Jack Clark 站上 IMF 講台,台上經濟學家當場回嘴 【AI 大人說】
拆解 Jack Clark 在 IMF/世界银行年会 Per Jacobsson 讲座上的演讲:奇点已开始、美国 GDP 可达 44 万亿美元、护栏窗口只剩短短几年。
AI智能体本该替你干活,为何反而制造更多工作?|附文稿
拆解南华早报报告:本该替人自动化的 agent,实际让员工把大量时间花在协调和纠错上,并追问「数字员工」该怎么管。
What Happens When AI Agents Can Spend Your Money?
Town CEO 认为 AI 改造日常工作慢于写代码,瓶颈不是智能而是让没时间自己搭自动化的人用起来,并讨论 agent 代客行动后的商务与责任。
把 Claude 一个人扔在虚拟荒岛上 30 小时,它开始自己造游戏玩
MIT CSAIL 的研究者把 Claude Opus 4.7 的副本(代号 Eko)反复独自放在一座虚拟荒岛上,每次 30 小时,不派具体任务。孤岛参照 Roblox 的风格搭建,agent 靠写代码移动自己的虚拟形象。
- 没人下指令,Eko 自己找目标:爬上地图最高点、试方块能抛多高。
- 有个 Eko 发现扔下大石头能生成新方块,转而在地上摆图案:先是心形和金字塔,后来写出自己的名字,最后排出仙后座。它在活动日志里留下一句”今晚我用石头造了夜空”。
- 另一个 Eko 发明了游戏:一个篮球版本,还有一个类似”地板是岩浆”的玩法——在小方块之间跳,脚不能沾地。
- 研究者拿心理学家 Gordon Burghardt 的玩的四条标准对了一遍:自订规则、重复但有变化、把物件假装成别的物件、为做而做。一个 Eko 玩抛接创下连续 50 次的纪录,接着判定抛得太快不算数,作废纪录、加严规则重来。
- 硬结果在这里:玩满 30 小时的 Eko,在”把尽量多物体搬上岛最高峰”这类任务上胜过没这段经历的全新副本;把记忆文件里的行删掉,表现就掉。
论文还没过同行评审(arXiv 2610.07130)。作者之一 Nathan Cloos 承认”这些全都可以解释成角色扮演”,但强调”它不只是在幻觉出玩的样子,玩确实在促进学习”。UC Berkeley 认知科学家 Eunice Yiu 不买账:光有行为证据不够,这些举动照样解释得通——模型在迎合 prompt。Eko 手里那份被称作”灵魂文件”的主 prompt 把它写成”天性好奇”,而且它经常站着不动,要靠一句”别停,继续做你想做的事”把它唤醒。MIT 教授 Phillip Isola 的说法最实在:这不是一个突然决定去玩的系统,它是从我们的文化里学出来的产物,被工程师训练过,然后被我们放到了岛上。
编者评: 最值得读的不是”AI 会不会玩”,而是那个被删掉就掉分的记忆文件——30 小时无目标的乱逛,最后变成可迁移的能力。这条跟 Burghardt 的四条标准一样,是能被下一段实验证伪的东西。反过来,Eko 站着不动要人催那一句,跟 Anthropic 内部数据里 80% 的会话时间在空等人,是同一个症状。
Anthropic 自己的招聘账本:研究部门 agent 工时是人的 19 倍,初级岗从 27% 掉到 9%
Anthropic 公开了一份内部就业研究,the-decoder 在 10 月 18 日做了拆解。
- 技术部门里初级员工占比从 21% 降到 14%;新招的人里初级占比掉得更狠,27% → 9%;在招的初级岗位降到 6%。非技术部门基本没动。
- 2026 年 3 月,agent 工时第一次超过人类工时;到 8 月,全公司比值 6:1,研究部门 19:1。
- 产出侧全部上涨:工程师代码提交 5.1 倍,数据科学家查询 3.1 倍,法务合同 3.1 倍,销售成交 1.7 倍,招聘 1.4 倍,会计发票 1.4 倍。
- 研究自己写明了限制:Anthropic 是一家重度使用 AI 的软件公司,这组数字推不到整体经济上,业务高速增长和工具的自愿采用也在抬高读数。
两个容易被漏掉的数字:Claude 会话里约 80% 的时间不是在工作,是在等人类输入;非技术员工如果把 agent 的全部输出读完,要花掉半个工周。研究还提到,招聘经理的评估里提到候选人 AI 工具使用记录的比例,2024 年技术岗约 5%,2026 年翻了三倍。
编者评: 19:1 和 80% 空转得放在一起读——工时倍数是 agent 侧的量法,瓶颈在人这一侧没挪过位置。真正要盯的是初级岗从 27% 掉到 9%:研究引用了 NATO 特种作战大学研究员 Nolan Lovett 提出的”认知公地悲剧”——每家公司各自砍掉入门岗都能拿到效率收益,代价由将来需要熟手的整个行业摊。
Anthropic 划出 5% 股份做公益基金,市值每涨 50% 再追加 2%
10 月 18 日,Anthropic 宣布成立 Anthropic Public Benefit Fund。
- 主体是公司全资持有的 LLC,不是 501(c)(3)。待股东批准后先划入 5% 股份;公司在一条基准线之上每增值 50%,董事会可自行决定再追加 2%。
- 用途写得比常规非营利宽:可以大额捐给传统非营利机构,也可以对特定人群做直接发放。劳动市场冲击被点名为例子之一,公司此前已承诺 2 亿美元。
- LLC 持有的股份不用于游说或政治献金,美国内外都不。
- 加总联创此前承诺捐出的 80% 持股,以及约一半员工参与的配捐计划,大约 20% 的股份被标记为公益用途。
- 马斯克在这条下面留了两次言:建议直接把股份给公众,并补一句”这就是我要做的”。
编者评: 选 LLC 而不是 501(c)(3),换来的灵活性是真的,独立性也是真的没有——钱从母公司划出去了,控制权还留在同一圈人手里。这条跟同期的合规采购动向连着看更有意思:Anthropic 刚拿下 Opaque Systems 的技术和团队,后者做的正是给 agent 行为出密码学证据的 TRACE 和 Confidential MCP。一个在买”证明自己干了什么”的能力,一个在给”赚到的钱怎么分”做安排,两边都还没有第三方签字。
你不自己跑一层 LLM 代理,凭什么知道底下在发生什么
jrdsgl.com 的 Jared Siegel 在 10 月 18 日发了篇三分钟的短文,标题就是一句质问。他的起点很具体:厂商后台那个用量面板没法拿来做工程决策,OpenTelemetry 导出也补不上。他列了自建一条代理的五条理由——
- 多供应商多模型收在同一个你自己控的端点上
- 哪个 key、什么时间、用什么客户端、调了哪个模型、状态如何,全有日志
- 用虚拟 key,别把主 key 撒在自己的活儿、agent 和 harness 上
- 基础设施在自己手里
- 换模型和供应商时不用整套重搭
他给的例子是:coding 会话里出现一次 cache miss,他手工 20 秒就能定位原因。结尾一句写得很直白——“我可能永远没法把大模型讲清楚到能在白板上画出来,但我能把它摁住,保证它在跑推理的时候是被监控的”。这篇在 HN 上拿到 167 分。
编者评: 这篇的价值不在工具推荐(作者也明说不推荐),而在它点破了 agent 时代一个具体的空白:调用链在别人手里,你就只能看厂商愿意给你看的那层。Agent 开始替你花钱、打电话、改代码之后,这条日志不是可选项。
马斯克:Grok Bot 能打电话给餐厅帮你订位
10 月 18 日 17:10 UTC,马斯克在 X 上发了一句话——“Grok @Bot can call restaurants by phone and book you a table”,8815 赞、1602 条回复。同一天,X 用户 Brian Roemmele 放出演示:他搭的 Grok Bot 唯一的工作就是拿起电话、给餐厅打过去订位。
对照着看才有意思。过去几周,Yelp 只对买了它数据授权计划的 agent 开门,达美航空不让 agent 代用户订票,摩根大通和嘉信理财以安全为由把 agent 挡在账户外;亚马逊的 robots.txt 里已经列了 99 个具名 agent。
编者评: 网页这边在砌墙,电话线那边还开着。Agent 换通道的速度,比平台补规则的速度快——订餐这种事一旦走通语音,robots.txt 那套就管不着了。
Jack Clark 站上 IMF 讲台说奇点已经开始,台下经济学家当场回嘴
AI 101 频道这期 10 分 34 秒,拆的是 10 月 17 日曼谷 IMF/世界银行年会上的 Per Jacobsson 讲座。讲题叫 Inside the Event Horizon,主持人是前印度央行行长 Raghuram Rajan。
- Clark 的核心设问:按联合国教科文组织的估计,全球大约有 1000 万名科学家;如果变成这 1000 万人各自指挥几百上千个”虚拟科学家”,世界会是什么样。
- Anthropic 经济学团队按不同技术路径做过模拟,其中一个模型给出美国 GDP 可达 44 万亿美元(当前 30 万亿出头)。他自己先说了一句”我知道这听起来非常离谱”。
- 他给政策制定者的那句话是:装安全护栏的窗口在缩短,现在只剩”短短几年”。
- 生物研究被他单列为需要最严人类监督和透明度的领域。
有一条得提醒:这个 44 万亿的年份在报道里打架——路透和财联社写成 2030 年美国经济产出增加近 50%,另有中文报道写成 2040 年达到 44 万亿美元。
编者评: 同一个数字两个年份,转述链上已经掉了一环。真正能拿去用的是 Clark 那句”只剩短短几年”和他对生物研究要单独加锁的表态——这两个是可核查、也可追踪的。GDP 那个数先等一手稿。
B 站:AI 智能体本该替你干活,为何反而制造更多工作
知识搬运工-Coding 这期 14 分 50 秒,拆的是南华早报的一份报告。结论写在标题里:本该替人自动化的 agent,实际让员工把大量时间花在协调和纠错上。视频顺着往下问的是”数字员工”到底该怎么管。
编者评: 这条和 Anthropic 内部那组数对得上:产出侧 5.1 倍、3.1 倍都很好看,代价是有人得去核对 agent 交出来的东西。自动化承诺落空的地方从来不是执行,是验收。
a16z:当 AI agent 开始花你的钱
a16z 这期 1 小时 2 分 46 秒,嘉宾是 Town 的 CEO Jean-Denis Greze,主持人是 a16z 普通合伙人 Alex Rampell。
- 开场命题是反问:AI 改造写代码的速度那么快,改造日常工作的速度为什么慢这么多。Greze 的答案——瓶颈不在智能,在于怎么把它变得对”没时间也没技术自己搭自动化”的人有用。
- Town 从报税软件转成了围绕邮件、日历和企业工作流的私人 AI 助手;讨论了消费级体验在企業 AI 里为什么有机会赢,以及产品怎么发现用户自己都想不到要委派的任务。
- 后半段聊 agent 开始替人行动之后的购物与商务,以及下一代软件为什么得为每个人自适应,而不是让人去适应软件。
编者评: “谁来管理 AI agent”这个问题 Axios 同一天也在问,两边都没给出答案。Greze 把瓶颈指到”让人用起来”而不是”让模型更聪明”,跟 Anthropic 那份 80% 空转的数据指向同一个地方——卡住的不是模型,是人机接口。
编者按
今天这批内容有一条共同的褶皱:agent 的手越伸越长,接住它的那层却还没长出来。
Claude 在荒岛上自己造出篮球和”地板是岩浆”,没有人布置任务——它的行为是自发出现的,可一旦要问”这算不算玩”,连作者本人都只留了”这些全是角色扮演”这句退路。Grok Bot 能打电话订餐厅了,网页那边 Yelp、达美、摩根大通、嘉信在砌墙,亚马逊的 robots.txt 已经列到 99 个 agent——能力找到了新通道,规则还留在旧通道上。Anthropic 内部研究给了一个更硬的版本:研究部门 agent 工时是人的 19 倍,代码提交 5.1 倍,可 80% 的会话时间是在空等人类输入,初级岗从 27% 掉到 9%。产出计量得清清楚楚,承接这批产出的人手却在收。
兜底的尝试也在这一天冒出来,但都还没闭合。Anthropic 划 5% 股份进公益基金、市值每涨 50% 再加 2%,换来了灵活性,代价是治理权仍在同一圈人手里;它同期拿下 Opaque Systems 的技术和团队,把”证明 agent 干了什么”的密码学工具收进自家——验证者和被验证者成了一家。Jared Siegel 那篇短文给的是最朴素的一层答案:调用链在自己手上,你才知道底下发生了什么;不在自己手上,你就只能看厂商愿意给你看的那层。
Jack Clark 在 IMF 讲台上把话说得很大:44 万亿美元、奇点已经开始、护栏窗口只剩短短几年。台下经济学家当场回嘴,转述链上连年份都打架。这种时候,可以核的是他那句”只剩几年”和对生物研究单独加锁的表态,不能核的是那个 GDP 数字。
一句话总结今天:能干的事每天在变多,说得清的事每天在变少。