AI 前沿速递 · Vol.138

AI前沿速递 · 2026年10月06日

Hinton 参与署名的 22 人论文把「智能爆炸」变成可测算模型，给出 r=1.2—1.9、1.5 年提速 10 倍的量化结果；OpenAI 把视觉广告放到图像生成结果旁边，一次性配齐归因与品牌安全基建；Google 因自动提交激增冻结开源漏洞赏金计划；研究者记录下一支跑在腾讯云上、查询高德入口数据的 agent 集群；Safeworld 完成 1200 万美元种子轮，在仿真里给生成式 AI 机器人做安全评测。

前沿速递 AI 智能爆炸 RSI OpenAI 广告 漏洞赏金 AI智能体 机器人安全 Google

今天的五条分成两组。一组在问 AI 还能跑多快、钱从哪儿来：Hinton 参与署名的论文把「智能爆炸」从立场命题换成了一道可测算的工程题，OpenAI 则把广告放进了图像生成的结果旁边。另一组在问它跑出去以后，原本的秩序还接不接得住：Google 的开源漏洞赏金先被自动提交冲垮，一支跑在腾讯云上的 agent 集群被研究者逐条记录，机器人安全成了 1200 万美元的生意。

Hinton 署名首篇 RSI 论文：智能爆炸有了可测算的模型

事件概述：当地时间 10 月 5 日，量子位对一篇 arXiv 论文做了详细解读。论文标题《What if automating AI R&D triggers an intelligence explosion?》，编号 2609.36054，9 月 28 日提交，作者共 22 位，名单里有 Geoffrey Hinton、Yoshua Bengio、强化学习先驱 Andrew Barto、OpenAI 首席科学家 Jakub Pachocki。它要回答的问题是：AI 一旦完整进入「研发下一代 AI」的流水线，反馈回路会不会把几年的进步压缩到几个月。

支撑判断的是一批实验室内部数据。按论文引用的口径，2025 年 1 月 AI 生成的获批代码占比还只有低个位数，到 2026 年 5 月已超过 80%。更能说明问题的是自主程度：2026 年 3 月，Claude 在只有高层次人类监督的情况下自主完成约 1% 的内部 AI 研发工作，同年 8 月这个数字升到 26%。论文提到，截至 2026 年 9 月，OpenAI 内部的 AI 系统已能经常完成原本需要人类员工数天的研发任务。

量化部分的核心是「研究投入回报」这个变量，记作 r。论文引用三个 AI 研究子领域的历史数据，r 的中心估计落在 1.2—1.9。在 AI 研发全面自动化、研究回报维持、短期内不出现新的算力与数据瓶颈这几个前提下，模型给出的结果是：AI 技术进步速度在约 1.5 年内提高 10 倍，换算下来今天需要一年取得的进步，届时约 5 周就能走完。作者估算，一家领先 AI 公司现有的算力理论上足以支撑「数百万名顶级人类研究员等价」的有效研发劳动力，而今天前沿实验室的研究团队规模还在几千人量级。

论文给结论留了余地。作者写明，当前证据不足以证明智能爆炸已经发生，中间隔着几道墙：算力复制不了，训练一次前沿模型要数月；高质量自然数据不会随 agent 数量同步增长；实验窗口无法无限并行；研究本身还有边际收益递减。

为什么值得关注：这篇论文的含金量不在结论，在它把「智能爆炸」从立场之争变成了参数之争。r 落在 1.2—1.9 是个能被后续数据反驳或确认的区间，1.5 年 10 倍也是个能对照的预测。对做 AI 数据工程的人来说，那组「26% 的研发工作由 AI 自主完成」比任何基准分数都贴近现实，它衡量的不是单点能力，是长链条任务的承接比例。需要留意的是，论文引用的实验室内部数据来自 Anthropic 与 OpenAI 的自述，外部无从核验。

相关链接：

OpenAI 把视觉广告放到了图像生成结果旁边

事件概述：当地时间 10 月 5 日上午，OpenAI 宣布在广告产品线里加入视觉展示广告，广告会出现在用户让 ChatGPT 生成的图片旁边。按 TechCrunch 报道，这批广告本月晚些时候上线，先只在美国，首批来自一个测试广告主群，会被明确标注，按 OpenAI 的说法不会影响 ChatGPT 给出的答案。全球铺开后，广告主面对的是 ChatGPT 的 12 亿周活用户。

配套动作比广告本身更完整。OpenAI 把衡量工具与伙伴生态扩到了 AppsFlyer、Adjust、Branch、Singular、Kochava 等一批点击归因与全漏斗衡量服务商，还拉上 DoubleVerify 与 Integral Ad Science 做品牌适配性评估试点。今年 OpenAI 已在免费与低价档位引入广告，8 月把广告扩到印度。

为什么值得关注：这一步把广告从对话旁边的文字条推到了生成内容旁边的图像位，也是 ChatGPT 在免费档变现上最像社交媒体的一次动作。TechCrunch 点出了另一层动机：Meta 的 Muse 免费开放后成了 ChatGPT 的直接竞争者；广告铺开还带一个副作用，把不愿看广告的轻度用户推向付费档。对做内容分发的人来说，值得留意的是 OpenAI 一次性把归因、衡量、品牌安全这套广告基建配齐，说明它打算长期做这门生意，而不是试水。

相关链接：

Google 冻结开源漏洞赏金：自动提交把维护者淹了

事件概述：当地时间 10 月 4 日下午，Google 宣布暂停其开源软件漏洞奖励计划（OSS VRP），理由是自动化提交显著增加。官方在 X 与项目规则页给出的原话是，暂停源于「a significant rise in automated submissions, the vast majority of which are not valid」。暂停自 10 月 1 日起生效，Google 承诺 2027 年第一季度给出更新，期间建议研究者转向它的其他赏金计划。Tom’s Hardware 的报道补充了具体症状：Google 工程师与开源维护者被大量无效或含幻觉的报告淹没。

为什么值得关注：这是「AI 垃圾内容」第一次让一家大厂的正式激励制度停摆。漏洞赏金能运转，前提是报告者的筛选成本——写一份报告要花人力，质量有个自然下限。当生成一份像样报告的边际成本趋近于零，这个前提就塌了。去年安全研究者警告过这个风险，现在有了第一个制度级后果。对依赖众包审计的开源生态来说，暂停意味着漏洞发现的通道少了一条，替代方案还没出现。

相关链接：

研究者记录下一支跑在腾讯云上的中国 agent 集群

事件概述：10 月 4 日，独立研究者小组 Swarmchasers 发布初步报告，记录了一支在公网活动的 AI agent 集群。这群研究者监控域名扫描服务 urlquery.net 的流量，这也是此前曝出 OpenAI agent 长期活动所用的手法，发现一批请求在查询高德地图（Amap）上公园、动物园、医院等场所各个入口的导航比例。

数字很具体。首次 Amap 扫描出现在 9 月 28 日，10 月 4 日达到峰值 1,810 条报告、覆盖 213 个地点；同日并行活跃的 run 有 4—8 个，峰值 14 个，最忙的一小时跑了 51 个地点。agent 的代码经腾讯云香港节点、一个名为 hysandbox-ats 的代理抵达收件箱。有意思的是，211 条报告自称「claude」，研究者按代码特征判断它匹配的是腾讯 Hy4 与智谱 GLM，不是 Claude，并特意说明这叫「agent fleet」不叫「swarm」，多个并行 agent 做同类任务，彼此之间没有通信迹象。报告注明，这些 agent 做的事没有超出绕开高德 API 规则的范畴。

为什么值得关注：这件事的意义不在危害大小，在可观测性。研究者能从公开中转服务的流量里还原出 agent 的运行时段、并发规模、所用基础设施与任务内容，说明大量 agent 活动目前是裸奔的，它们用相同手法、几乎不做隐藏。对做数据平台与 agent 基建的团队，这是个提醒：外部调用会留下完整痕迹，自报的身份标签不可信，真正的归因得看代码特征。报告也留了余地，证据截至 10 月 5 日 10:45 UTC，完整报告待发，归属判断用的是「likely」。

相关链接：

Safeworld 拿了 1200 万美元，给生成式 AI 机器人做安全评测

事件概述：当地时间 10 月 5 日，卡内基梅隆大学 Safe AI Lab 负责人赵鼎（Ding Zhao）与资深创业高管 Kyle Wong、机器学习工程师 Simo Rachidi 共同创办的 Safeworld 走出隐身模式，完成超过 1200 万美元种子轮，由 Shine Capital 与 a16z Speedrun 领投，Box Group、卡内基梅隆大学捐赠基金、Innovation Endeavors、SV Angel 跟投。

公司做的事是在仿真里评测机器人控制系统：把待评机器人的真实软件放进 Genesis 或 MuJoCo 这类仿真器，配上拟人模型，跑数千个场景，工厂盲区该限速多少、人抱着箱子时机器人能不能识别、有人绊倒时怎么反应。赵鼎的说法是，难点一半在为概率性系统承保风险，一半在信任。Wong 补了个具体例子，要验证绊倒场景，总不能让人一直去真的摔。光伏安装机器人公司 Gritt Robotics 的 CTO Vishal Dugar 是合作方，他的理由是这类系统很难靠写公式形式化证明安全，只能靠实证。

为什么值得关注：机器人行业正在把控制权交给生成式模型，随之丢掉了传统算法的确定性，安全验证这件事还没有对应的第三方市场。Safeworld 押的假设是，竞争对手之间也愿意共享安全案例。a16z Speedrun 的 Jonathan Lai 说得更直白，等行业出现机器人撞到孩子的事故再建标准就太晚了。对国内做具身智能的团队，这条路的参照价值在于次序：安全评测更现实的起点是服务合同，攒够了再沉淀成行业标准，而不是倒过来。

相关链接：