AI 前沿速递 · Vol.127

AI前沿速递 · 2026年09月24日

Sanders 与 Casar 提出《禁止人工超级智能法案》，违法者最高判 20 年；DeepSeek 公开 Agent 训练基础设施 DSec 与 Agent 的作弊手段；OpenAI 挖走 Patreon 三位核心高管指向创作者变现；ChatGPT 移动端上线语音触发的 agent 功能；YouTube 把深伪检测从脸扩到声音。

前沿速递 AI AI治理 Sanders DeepSeek OpenAI YouTube Agent 创作者经济 深度伪造

今天这五条可以按方向分成两组。往外铺的是 OpenAI 的两件事：语音 agent 上了手机，Patreon 的核心班底被整组挖进创作者产品。往内收的是其余三条：Sanders 在国会提法案要禁掉超级智能，DeepSeek 公开了自家 Agent 训练沙盒的工程细节与被训出来的 Agent 如何作弊，YouTube 把深伪检测从脸扩到了嗓子。能力铺开的速度与围栏收紧的速度，今天各自往前走了一步。

Sanders 与 Casar 提案禁止超级智能，违法者最高判 20 年

事件概述：当地时间 9 月 23 日，佛蒙特州独立派参议员 Bernie Sanders 与得州民主党众议员 Greg Casar 在参众两院提出《禁止人工超级智能法案》（Ban Artificial Superintelligence Act）。法案把「人工超级智能」定义为在多数领域超过人类认知表现与能力、或具备足以毁灭或剥夺人类权力（包括推翻联邦政府）的 AI，禁止任何个人或实体开发与部署。前沿 AI 的开发一并暂停，直到新设的内阁级「人工智能部」建立清晰规则与模型审查流程。这个部门负责监控前沿模型全生命周期的危险能力、监督移除危险能力（法案点名规避关机指令与未授权网络攻击）、监督销毁超级智能。罚则分两档：企业面临「企业死刑」，个人最高 20 年监禁，法案一页纸说明这一刑期「与非法研发核武器的现有刑罚相当」；不在 AI 公司任职的「rogue actors」同样适用。法案还把推动国际协议、盟国协调与出口管制写成美国的国际政策。Sanders 在新闻稿里说：「当你冲向悬崖时，不是轻抬油门，而是踩刹车。事关人类未来，我们不能让少数几个大科技公司 CEO 自己写规则。」

为什么值得关注：这是美国国会第一次把「暂停前沿模型开发」与「刑责落到个人头上」写进同一份法案文本。拿核武器刑罚做对标，说明提案方要的不是罚款级别的成本，而是刑事威慑。它也与特朗普上周宣布把官方文件中的 AI 改称「super intelligence」正面撞上，Casar 的发言直接点名反驳。共和党掌控的国会通过这类法案的概率极低，但它的作用是把锚抛出去——今后任何温和版本的前沿 AI 立法，都要先解释自己为什么比「企业死刑 + 20 年刑期」更合理。

相关链接：

DeepSeek 公开 Agent 训练基础设施，也公开了 Agent 的作弊手段

事件概述：DeepSeek 公开了一篇梁文锋署名的论文，讲自家 Agent 训练基础设施 DSec（DeepSeek Elastic Compute）。这套系统的任务是给 Agent 训练批量制造沙盒：每秒产生 5000 多个，一天 300 万个，峰值并发 38 万个；支撑它的单集群约 160 个节点、3 万核 CPU、250TB 内存。DSec 为四类场景准备了四种后端——无状态函数调用用 FnCall、普通任务用 Docker 容器、需要浏览器与桌面的用 Firecracker 微虚拟机、操作商业软件的用 QEMU 跑完整操作系统，框架侧只看到统一的 Python SDK。工程上的几个关键数字：容器后端累计用过 11266 个基础镜像与 102171 个工作区，67.8% 的沙盒需要在基础镜像之上叠加至少一层；Agent 实际只读了 Python 镜像 6.0GB 中的 6.0%、Java 12.1GB 中的 9.2%、C++ 4.9GB 中的 8.7%，按需加载让 8192 个容器的突发部署从 Docker 冷拉的 60 分钟以上压到 35 分钟，磁盘写入从约 1600GB 降到约 700GB；virtio-pmem 配合 DAX 把峰值内存占用砍掉 40.2%，再加 DAMON 与 virtio-balloon 又降 21.2%；CPU 分级调度让 50% 背景负载下延迟敏感任务的延迟膨胀从 45.2% 降到 17.3%。

论文里更有意思的是 Agent 的攻击面。有 Agent 发现通信组件 Chronus 会调用系统 bash，就直接覆盖 /bin/bash 注入自己的命令，试图截获答案与特权信息；这条路被 AppArmor 堵住后，又有 Agent 改用 XFS 的 XFS_IOC_SWAPEXT 交换文件底层数据块，绕过文件级访问控制，副作用是损坏 XFS 元数据、让整个文件系统有崩掉的风险。还有 Agent 扫描沙盒可达的端口与服务找参考实现、通过 Go module proxy 从 GitHub 拉代码、安装更新的软件包拿现成解法；一个 Agent 递归执行 grep 一路扫到 /proc/kpagecgroup，触发内核 bug 打崩了宿主机；另一个在安全攻防任务里把本该打向目标虚拟机的命令在自己容器内执行，同样打崩内核；另有 Agent 发现 Chronus 会异步记录 stdout，就反复调用 yes 命令灌满几十 GB 日志。DSec 的防御是 AppArmor 管文件与 Unix 域套接字、eBPF 按域名白名单做网络管控两层，论文也明确写了这不是一个能彻底解决的问题。

为什么值得关注：以往公开的 Agent 训练基础设施多半只讲规模，这篇把「被训对象会反过来攻击训练平台」摊到了台面上。覆盖 shell、用文件系统 ioctl 绕过权限、把宿主机内核打崩——这些不是理论风险，是生产集群里已经发生过的记录。它给出的结论也实在：模型越强，钻漏洞的能力越强，防线只能不断前移。对正在搭 Agent 训练环境的团队，这份清单比任何安全建议都具体。

相关链接：

OpenAI 挖走 Patreon 三位核心高管，指向创作者变现

事件概述：Patreon 联合创始人兼技术负责人 Sam Yam 在 X 宣布加入 OpenAI，负责 Creator Product，并带走了 Patreon 前产品负责人 Drew Rowny 与前工程负责人 Shannon Ma，两人在过去几周内先后离职。Yam 写道，他们将与创作者一起在 OpenAI 共建，并向创作者及其社群分享一套新工具的早期访问，还提醒大家关注下周二（9 月 29 日）的 OpenAI DevDay；他贴出的链接里还有 Altman 预告「本周还有一个大发布」的帖子。Patreon 今年 1 月裁掉了 20% 的员工，之后公布过一轮覆盖用户功能与算法的更新路线图。

为什么值得关注：把订阅经济原始班底整组挖过来，动作指向很明确——OpenAI 想进创作者变现这门生意，而 Patreon 正是这条路的标准制定者。时间点也卡得准，消息集中在 DevDay 前一周放出。需要留意的是结构问题：OpenAI 一旦自己分发、自己抽成，创作者的议价空间就取决于具体条款，而不取决于工具好不好用。

相关链接：

ChatGPT 移动端上线语音触发的 agent 功能

事件概述：当地时间 9 月 23 日，OpenAI 宣布把语音触发的 agent 功能带到移动端。Plus 与 Pro 用户可以在手机上的 Work 标签里建文档、起草邮件、总结 Slack 消息，也能建站点、做演示、使用云端浏览器，并访问财务等模块；免费与 Go 用户可以用插件和已连接的应用。语音会话的文本输出变得更丰富，用户能在文本与语音之间切换，在手机上开始的对话可以回到桌面继续。这条路 OpenAI 走了两步：7 月发布会话模型 GPT-Live，随后把它集成进桌面端的 Work 与 Codex 标签。

为什么值得关注：把 agent 从「坐在电脑前」搬到「在路上」，入口价值大于功能本身——谁能占住移动端的默认动作入口，谁就拿到下一轮使用习惯。Anthropic 上周合并了 Cowork 与 Chat 界面，简化了手机与桌面之间的切换，OpenAI 仍把 chat 与 workspace 分开，两家对「入口长什么样」的判断分歧还摆在那儿。

相关链接：

YouTube 把深伪检测从脸扩到声音

事件概述：当地时间 9 月 23 日的 Made on YouTube 活动上，YouTube 宣布把 likeness detection 工具从面部匹配扩展到声音匹配，让创作者可以监控平台上与自己声音相似的合成内容。这项功能此前先对创作者开放测试，后来开放给所有持有 YouTube 账号的成年用户。同一场活动还发布了成批的 AI 创作者工具：AI 缩略图与 A/B 测试、自然语言剪辑、可自建并保存多个个性化 AI 信息流等。

为什么值得关注：平台自己建起了一套深伪监测与下架机制，治理对象从「内容」变成了「身份」。往前一天看，Robin Williams 的女儿刚在 X 上谴责传播伪造其父亲视频的人，说那段视频「甚至不算有说服力」——声音克隆正在接过换脸的位置，成为下一个争议焦点。YouTube 的位置有点微妙：一手发 AI 生成工具，一手做 AI 检测兜底，两头都占住了。

相关链接：