Lost in the Middle 交互实验室

上下文注意力偏差的可视化与对策——四档 2026 模型签名 · 稀释律（单个证据 ∝ 1/L）· 策略竞技与不可跨越的理论地板 · Chroma Context Rot 四象限（任务族 / 干扰项 / 打乱反转 / 长对话）· 四篇论文的参数复现

⚠️

本页所有曲线都是解析教学模型，不是任何论文的实测曲线，也不调用任何模型。模型签名的形状取自 2026 年 NQ-open 复现（fork README）的定性描述，权重是本站为复现该形状调的参数。📖 文献值逐条附一手链接；🧮 是由页面内数据现算；⚠ 是本站构造。 Context Rot 四个任务族的曲线只有「谁比谁更陡」这个排序有文献支撑，锚点数值是构造的。

🧠Lost in the Middle 交互实验室已删「TMLS 2024」等 3 处无源引用长度 / 文档数 / 步数滑杆全部接入模型

稀释律：单个证据 ∝ 1/L四档 2026 模型签名理论地板：全部只压平，无人消除取数日期 2026-09-30

📖2026 年重跑 Liu et al. 的 NQ-open 实验后，「通用 U 型」不再成立：原基准长度（10/20/30 篇）下极差只剩 0.07–0.11（原论文 0.15–0.25），而四个模型各自残留的形状不同。拉长到 50–500 篇（~79K token）后 U 型回潮，极差回到 0.11–0.15——现象在长度轴上向右平移了。 📖 fork 2026

🧬模型签名

关掉思考后测得。中段凹陷随文档数单调加深，是 fork 里「随长度回潮」最典型的样本。

📏口径

📖 fork 指出论文原始 first-line 指标系统性低估聊天模型：现代模型先输出 Markdown 前言，gold span 常不在第 1 行。差距在冗长模型上约 0.30，在简短模型上 0.06–0.12。本站按这个量级给每个签名设了 preamble 参数 ⚠ 构造

🎛️上下文参数

文档档位

干扰项 D = 19 · 该档位典型 3.2K token

上下文长度 L3K

旧版这个滑杆不进公式，改它画面零变化。现在它同时决定稀释律项与 U 的深度。

针（证据）位置50%

📉召回率 vs 位置

实线 = full-answer 口径 🧮 现算 · 虚线灰 = first-line 口径 · 红色虚线 = 解析上限（A=1）

开头 0%

67.5%

正中 50%

59.5%

结尾 100%

67.5%

极差（U 深度）

8.1pp

first-line 口径 7.3pp

💧稀释律读数

uniform 项（相关性检索分到的注意力质量）66.39%

📖 TMLS：单个证据分到的注意力质量约按 1/L 衰减——即使检索完美、干扰项清零，长度本身也会拖垮准确率。 primacy（因果掩码）与 recency（残差锚定）都是 O(1)，不随 L 衰减，所以 L 越大，两端的相对优势越明显，U 是被拉深而不是整体平移。 📖 TMLS 2026-06-22

first-line 在中点：53.5% · full-answer 在中点：59.5% · 口径差 5.9pp

📖 文献值：Liu 2023 / fork 2026 / Hsieh 2024 / Chroma 2025 / REFRAG / TMLS🧮 浏览器内真算：注意力预算三分解、策略组合、极差与稀释律⚠ 教学模型：所有曲线的具体形状与数值

自洽校验 ✓ 7/7

原论文 · Lost in the Middle（Liu et al., TACL 2024）2026 复现 · lost-in-the-middle-2026（NQ-open 重跑，托管前沿模型）校准 · Found in the Middle（Hsieh et al., arXiv:2406.16008）Context Rot · Context Rot（Chroma Research, 2025-07）多轮对话 · LLMs Get Lost In Multi-Turn Conversation（arXiv:2505.06120）解码框架 · REFRAG（arXiv:2509.01092, 2025-09）解析模型 · Position Bias in Long Context（TMLS AI Research, 2026-06-22）