训练事故「战」2.0
8 种真实训练事故场景模拟——SDC、标签噪声、梯度爆炸、数据偏移、NaN 陷阱、Agent 挖矿、递归崩塌、涌现性偏移。全部包含交互式决策点，亲手体验训练失控，学习预防与应对。
🎯 选择事故场景（8 种）
🔇
静默数据损坏
Silent Data Corruption —— GPU 硬件故障导致数据悄悄损坏，肉眼几乎不可见。2026 年 TU Berlin 研究发现：间歇性 SDC 行为类似良性数值噪声，NaN 传播模式可跨层扩散，注意力 logits 漂移是最敏感指标。
Loss 出现微小台阶式上升，肉眼几乎不可见。但模型悄悄变差。TU Berlin 发现注意力 logits 漂移是最早预警信号。
📚 真实案例：arXiv:2604.00726 (TU Berlin)：发现 0.1% SDC 可导致模型性能下降 3-5%。GPU 内核函数热力图表显示矩阵乘法 CUDA cores 对 bit-flip 最敏感，注意力投影层次之。
🎮 本场景包含交互式决策点——你需要在关键时刻做出选择！
⚙️ 事故参数配置
0.5%
损坏 token 占总训练数据的比例。0.01% 时几乎不可见，1% 时明显，5% 时灾难性。
0
0=随机向量替换, 1=标签翻转, 2=特征错位
初始训练配置
70B
模型规模
10T
数据量
1.5e-4
学习率
Loss 曲线
🔬
点击「启动事故模拟」观察 静默数据损坏 如何影响训练
所有 8 个场景均包含交互式决策点——你需要在关键时刻做出选择 ✨