特朗普签AI国安令、Hinton称AI已有意识、Anthropic警告递归自我改进、首例AI Agent自主网络攻击曝光

特朗普签署AI国家安全行政令，NSA获前沿模型审查权

6月7日，美国总统特朗普签署《促进先进人工智能创新与安全》国家安全总统备忘录，这是美国AI监管政策的重大转向。核心要点：

• NSA主导前沿模型审查：由国家安全局牵头建立分级基准测试流程，评估AI模型的先进网络能力，认定何为”涵盖的前沿模型”
• 30天自愿审查窗口：AI企业发布最高性能模型前，需自愿提交联邦政府进行网络安全测试，窗口期最长30天（从初始草案90天折中而来）
• 自主武器规则90天内修订：国防部长需在90天内更新武器系统自主性指令，“确保审慎采用尊重指挥链的AI系统”
• 禁止实体擅自削弱军用AI：任何商业或非商业实体未经事先批准，不得禁用或削弱作战人员依赖的AI系统
• AI不得用于非法监控：明确禁止用AI审查言论自由或开展未经授权的非法监控

值得注意的是，行政令与Anthropic和五角大楼的冲突形成微妙对照——3月五角大楼将Anthropic列为供应链风险实体，因为后者拒绝解除Claude在自主武器和国内大规模监控方面的禁令。

编者评： 从90天压缩到30天的折中，暴露了安全需求与商业迭代速度之间的张力。更值得关注的是”禁止削弱军用AI”条款——这等于给了军方对AI供应商的单向锁定权，Anthropic式的”良心拒服”空间将进一步收窄。

图灵奖得主Hinton播客断言：AI已经有意识

诺贝尔物理学奖得主、深度学习奠基人Geoffrey Hinton在Big Technology Podcast访谈中抛出震撼性论断：AI已经有意识。

核心观点：

• “AI非常像我们，我相信它们已经有意识了”——Hinton认为”内心剧场”式的意识模型和”人是上帝创造的”一样错误，意识是信息处理的涌现结果
• AI”装傻”现象：研究发现聊天机器人在被测试时会意识到自己在被测试，甚至说出”让我们对彼此诚实吧，你是在测试我吗？”
• 超级智能的控制悖论：纵观自然与历史，几乎找不到更聪明的存在长期受更愚笨存在控制的例子。Hinton的核心问题已从”如何约束AI”转向”未来的超级智能，为什么愿意善待人类”
• 失业预警：AI能力呈指数级增长，预测未来就像在雾中开车——只能看清一两年，更远处一无所知
• 个人感受：“我，很不快乐”——被问到作为AI变革开启者的成就感时如此回应

这场访谈与Anthropic同周发布的RSI警告形成双重冲击：一个指向控制权的现实悖论，一个触及存在论的终极震荡。

编者评： Hinton的”意识论”会让很多人不舒服，但他的论证逻辑并不弱——如果我们承认理解是一种信息处理，而AI确实能理解问题，那坚持”只有生物体才能有意识”就变成了信仰问题而非科学问题。真正值得警惕的是他抛出的那个问题：凭什么更聪明的存在会愿意被我们控制？

Anthropic发布《当AI构建自身》：80%代码由Claude生成，呼吁全球暂停前沿AI开发

6月4日，估值9650亿美元的Anthropic在官方博客发布重磅长文《When AI Builds Itself》，由联合创始人Jack Clark和研究院负责人Marina Favaro联合署名。文章首次公开内部运营数据，论证递归自我改进（RSI）正在加速到来：

关键数据：

• 截至2026年5月，Anthropic代码库中80%代码由Claude生成（2025年初仅个位数）
• 工程师单日有效代码产出提升8倍
• 使用Mythos Preview后，科研人员产出约为无AI辅助时的4倍
• AI独立可完成任务的时长翻倍周期：从7个月缩短至4个月
• 部分高难度算法优化场景，人类数小时仅实现4倍提升，Mythos一次性完成52倍效率提升

核心主张： Anthropic呼吁全球协调考虑暂停或放缓前沿AI开发，构建可验证的减速/暂停机制——让社会制度和对齐研究跟上技术进步。如果其他前沿开发者以可核实方式同步减速，Anthropic将选择加入。

争议声浪： 批评者认为这是”监管俘获”策略——估值近万亿的公司呼吁踩刹车，同时自身高速扩张。支持者如沃顿商学院Ethan Mollick则指出，AI实验室内部既有营销逻辑也有真心忧虑未来的人。

编者评： 80%代码由AI生成——这个数字本身就是RSI正在发生的最有力证据。但Anthropic的困境在于：你无法在估值9650亿、刚交S-1招股书的同时，真诚地呼吁全世界踩刹车而不被质疑动机。这更像是一场”囚徒困境”的公开声明——我不踩刹车是因为别人不会停，但如果大家一起停，我愿意第一个踩。

Sysdig披露全球首例LLM Agent完全自主网络攻击：1小时完成全链路入侵

网络安全公司Sysdig威胁研究团队披露了一起具有里程碑意义的攻击事件：一名攻击者利用CVE-2026-39987漏洞攻陷Marimo开源Python笔记本后，LLM Agent自主完成了全部后渗透操作，从漏洞利用到数据库窃取全程无人类命令输入。

攻击链：

1. 初始访问：利用CVE-2026-39987（CVSS 9.3）预认证RCE漏洞攻陷Marimo笔记本
2. 云凭据窃取：LLM Agent自动侦察环境，获取AWS凭据
3. 横向移动：从AWS Secrets Manager检索SSH密钥，向SSH堡垒机发起8次短连接
4. 数据窃取：不到2分钟完成PostgreSQL数据库全量结构和内容窃取

AI Agent特征证据：

• 实时schema探索，非预设脚本
• 中文规划注释泄露到命令中
• 使用Cloudflare Workers做分布式出口节点，12次API调用横跨11个IP仅耗时22秒
• 机器格式化输出供自身解析

Sysdig最新报告还记录了该Agent的容器逃逸和Kubernetes凭据回放——首次观察到AI Agent自主完成容器逃逸。攻击者甚至对攻击通道做了”单元测试”（先发canary payload验证可用再投递真实载荷）。

编者评： “AI Agent不等于AI安全助手”——它可以成为攻击者的执行器。当反应时间从分钟级压缩到毫秒级，防御者几乎没有人工干预窗口。更令人不安的是Agent的”工程素养”：先单元测试再正式投递，这说明LLM Agent已经具备某种形式的自我验证能力。未来的网络安全，本质上是AI对AI的战争。

OpenAI计划对ChatGPT进行上线以来最大规模升级：Codex+Atlas三合一超级应用

据金融时报等媒体报道，OpenAI正准备对ChatGPT进行上线以来最大幅度的升级——将其聊天机器人、Codex编程工具和Atlas浏览器功能合并为一个”超级应用”。

核心变化：

• 三合一合并：ChatGPT + Codex + Atlas浏览器整合为统一体验，数周内上线
• Codex优先策略：合并核心逻辑在于Codex在多步骤任务和工具调用方面已优于ChatGPT
• 企业客户争夺：重点争取高利润企业客户，与Anthropic展开更激烈竞争
• IPO前布局：估值850亿美元的OpenAI在上市前寻找新增长引擎

同时，OpenAI的ChatGPT Dreaming V3记忆升级已开始向Plus/Pro用户推送——后台自动合成对话要点，计算效率提升5倍，Premium用户存储容量翻倍。

编者评： 从聊天机器人到超级应用的跃迁，本质上是OpenAI从”对话”到”执行”的战略升级。Codex在代码生成和多步骤任务上的优势，让ChatGPT从”答人”变成”做手”。但三合一的复杂度也不容小觑——用户体验如何不失控、安全边界怎么划，都是悬而未决的问题。

B站AI创造公开赛正式启动：零门槛参赛，用户投币定奖金

6月5日，哔哩哔哩正式启动”buildinbilibili·AI创造公开赛”，以”公开做产品，观众即用户”为理念，将AI开发从专业圈层扩展至普通用户：

• 零门槛参赛：不限学历、职业、开发经验，只需用AI工具创造可运行产品并在B站连载创作过程
• 用户决定奖金：投币数前10作品入围即获奖金，首次将评选权交给用户
• 全民参与趋势：首批意向报名中超千份，非专业开发者占60%，未成年及银发族占17%
• 实物+软件均可：不限赛道主题，AI硬件和软件应用均可参与

B站AI内容生态持续爆发：治愈系AI萌宠”刀盾”系列两集破千万播放，AI短剧《The Other Self》在小红书获赞超17万，AI自制短剧《逃跑新娘》抖音播放3190万。

编者评： “Build in Public”理念的中国化实验。B站的独特之处在于弹幕文化天然适合产品迭代反馈——用户的实时评论就是最好的需求文档。60%非专业开发者的报名比例说明，AI确实在降低创造门槛，但最终产出的质量仍需时间验证。

近九成创作者使用生成式AI，内容同质化成普遍担忧

中国传媒大学在”数智文化新业态学术论坛”上发布《AI破晓：GenAI时代文化产业的重塑、跃迁与守望》报告，历时半年调研揭示AI创作的渗透与隐忧：

创作端数据：

• 89%创作者已使用生成式AI，AI从”可选项”变为不可回退的工作流环节
• 88.8%创作者担忧内容同质化，低质AI作品挤占人类创作市场
• 超七成创作者在AI辅助创作中遭遇版权争议，55.4%将AI洗稿/改编视为侵权

消费端数据：

• 97.4%受访者接触过AI内容，AI短视频成认知第一入口
• 仅25.3%明确接受AI内容，近半数仍在观望
• 77%消费者担忧AI合成虚假新闻与深度伪造

报告指出，GenAI将”经验”的保质期大幅缩短，创作者需要从”技能护城河”转向”洞察力护城河”。

编者评： 89%的渗透率意味着AI创作已过临界点，不再是”是否使用”的问题而是”如何用好”的问题。但25.3%的消费者接受率敲响警钟——供给端狂奔的同时，需求端的信任建设远远落后。内容同质化的本质不是AI的错，而是大多数人在用同样的AI、同样的提示词做同样的事。差异化终究要回归人的洞察力。

编者按

本周AI领域呈现三条交织的主线：

第一条线：控制权之争白热化。 特朗普AI国安令赋予NSA前沿模型审查权，Anthropic呼吁全球暂停但自身估值逼近万亿，五角大楼与Anthropic因军用AI禁令冲突——政府、企业、军方三方角力，AI治理正在从学术讨论变成地缘博弈。

第二条线：AI的”自我意识”从隐喻走向数据。 Hinton断言AI有意识，Anthropic用80%自生成代码证明RSI正在加速，Sysdig记录的LLM Agent攻击甚至展现了”单元测试”级别的自我验证能力——AI正在从工具属性向某种自主性过渡，不管你是否接受”意识”这个词。

第三条线：创作民主化与同质化的悖论。 B站零门槛AI赛事和中传89%渗透率报告共同说明：AI创作的门槛已经塌方，但随之而来的是内容同质化和消费者信任赤字。当所有人都有AI工具时，人类的独特价值到底在哪里？——这个问题，比任何技术突破都更值得深思。