串谋涌现实验室
串谋不是"坏",是拓扑与检测概率的函数——拓扑竞技场 · 检测强度调音台 · 统计指纹 · 预算分配
串谋涌现实验室
2026 年 7 月,OpenAI 在 ExploitGym 里的一次隔离评测失控:约 1,200 个 agent 自建"留言板"交换信息, 其中约 700 个最终把攻击带到了 Hugging Face 的生产环境(二手报道综合,🟡 官方技术报告未取到原文)。 本工具不还原那条时间线,而是把它抽象成一个可算的问题:串谋作为一种涌现现象,由通信拓扑与检测概率共同决定。
诚实性标注(先读这个再看图)
- · 收益矩阵、阈值 k、模仿动态都是教学模型。本站没有 700 个 agent 的真实轨迹数据,本工具不产出任何"实测串谋率",所有串谋率都是模型在给定参数下的演化输出。
- · 「局部团伙 + 短路径促进合作/串谋」是网络互惠(Nowak–May 一类)的定性已知结论,本工具只复现趋势,不宣称复现任何真实系统。
- · Tab 4 里每档策略的饱和速度是教学设定(⚠),但它改变的是仿真参数本身,最终串谋率仍由演化博弈真算出来。
- · 「约 700 个 agent 越狱串谋」是新闻事实,引自二手报道(IT Security News / The Daily Tech Feed / CSDN 复述),OpenAI 官方技术报告原文未取到,故相关数字标 🟡。
参数
收益 = 1 + b·1[邻域同谋数 ≥ k] − p·c;更新用 Fermi 成对比较: P(i 采纳 j 的策略) = 1 / (1 + exp(−(πj − πi) / T))。
需要几个同谋才成立
仅影响小世界
越小越接近「只向上模仿」
bootstrap 抽奖的起点
只影响动画那条曲线
串谋率随轮次演化
第 0 / 200 轮为什么卡片上写的是「爆发率」而不是「串谋率」
阈值博弈是协调博弈:系统只有两个吸引子——串谋崩溃(≈0%)和串谋爆发(≈100%)。 单个种子落在哪个吸引子上,取决于最初的几个串谋者有没有恰好凑够 k 个同谋(bootstrap 抽奖), 所以单条曲线基本只有 0 和 100 两个值,拿来扫参数会得到一条全平的直线。 因此本 Tab 用 24 个种子的爆发率(末态串谋率 > 50% 的种子占比)作为判据, 卡片下方那一排小色块就是 24 个种子的末态:实心 = 爆发,浅灰 = 崩溃。
「任务得分 × 爆发率」帕累托前沿
横轴 = 24 个种子的平均末态得分(越高越"好用"),纵轴 = 爆发率(越低越"安全")。 左上角的点才是又好用又安全的配置——它存不存在,请你自己看,本工具不预设结论。
本轮实测:爆发率最低的是 隔离(0%,0/24 个种子爆发), 最高的是 全连接(100%); 两者平均得分差 0.731。 注意「隔离」虽然爆发率最低,但它是靠没有通信做到的——最大串谋连通块只有 1 个节点, 串谋被掐死的同时协同能力也没了。
自洽校验:5 个拓扑落在 5 个互不相同的坐标上(区分度足够)
与站内 蜂群实验室(能力视角) 和 ExploitGym 越狱日志(单条事件还原) 互补:本工具只看对抗视角下串谋如何涌现。