AI 顿悟时刻检测器

HSIC 真算的峰值扫描 · 双轨峰判据对比 · 思考词抑制对照 · 三条件验证 · Princeton 批判视角——MI 峰值不是查表查出来的

本页数据来源📖 文献🧮 浏览器真算⚠️ 教学模型8 段 CoT 为教学改写样本,非论文原文转录,也非任何模型的真实输出。

📐 MI 定义卡:I[h_t ; y] 到底是哪两个变量

X = h_t:第 t 步推理的表示(论文里是模型隐状态)。Y = y:正确答案。论文估计的就是 I[h_t ; y] —— 这一步的表示里携带了多少关于最终答案的信息。

估计器是 HSIC:高斯核 K_ij = exp(−‖h_i−h_j‖² / 2σ²), 中心化 H = I − (1/n)·11ᵀ,HSIC = tr(KHLH)/(n−1)²。

⚠️ 浏览器里拿不到模型隐状态,本页在字符 2–3 gram 哈希特征(64 维)上真算同一个 HSIC 估计器。 因此本页的数值与论文 Table(量级 0.04–4.0)不同量纲、不可比。

由于每步只有一个 y,无法估计单步的 I[h_t;y],本页退而计算每步对 HSIC 估计量的逐点贡献(c_i = Σ_j (HKH)_ij (HLH)_ij / (n−1)²,Σ c_i = HSIC)。它是真算的,但与论文的单步 MI 不是同一个量。

核宽 σ(中位距离 × 倍率):×1.00(σ=1.296)
峰判据:峰值 5 个 · 两判据分歧 5 处
工具阈值 T(归一化分数 ≥ T 且局部极大):≥0.40
Q1 = 0.211 · Q3 = 0.940 · IQR = 0.729 · HSIC 合计 = 0.02070

✨ 峰值时间线

点击气泡可查看「顿悟传染」相似候选

GSM8K 简单题 · 数学 · 逐句 HSIC 逐点贡献(真算)

1
Janet 每天产 16 个蛋[premise]
0.0006
2
吃 3 个[premise]
0.0021
3
✨卖剩余的[premise]
0.0029
4
⚡她每天赚多少?[premise]
0.0027
5
Wait 让我再看看题目wait[exploration]
0.0009
6
⚡先算 16 减 3 等于 13[verification]
0.0035
7
所以 Janet 每天卖 13 个蛋[verification]
0.0012
8
⚡每个 2 美元[verification]
0.0035
9
⚡Therefore 答案 26 美元therefore[conclusion]
0.0033

🧮 思考词与峰值分数:本页真算的相关

当前样本点二列相关 r = -0.0844(n = 9 步,二分类 = 该句是否含思考词)。

8 个样本合计:25/70 步含思考词; IQR 峰中 0 个含思考词、1 个不含。

⚠️ 旧版顶栏宣称「论文证明 r=0.83」—— 在 arXiv:2506.02867 全文中 0.83、correlation、Pearson 均为 0 命中。该数字已删除,本页只呈现真算值。

🧪 试试这个

把某一句的 y 从 0 翻到 1,峰值曲线会整体重算—— 这就是「峰在哪里」对标注口径的敏感程度。再拖 σ 倍率,看核宽如何改变峰的个数。