持续学习中Adam下梯度修改的隐藏失效模式及自适应解耦矩路由修复

研究显示，持续学习中梯度修改方法（如投影、惩罚重缩放）与Adam优化器结合时存在隐藏失效。在8领域语言模型任务中，共享路由投影基线性能接近普通遗忘（12.5-12.8 vs. 13.2），而自适应解耦路由稳定在9.4，提升3.8单位；16领域任务中优势扩大至4.5-4.8单位。失效因Adam第二矩路径导致旧方向有效学习率膨胀，同样出现在惩罚方法、回放混合及70亿参数规模中。修复方案仅将修改梯度路由到第一矩，保持第二矩统计量，并采用重叠感知自适应强度，这是唯一能避免崩溃的配置。