13 items with this tag.2026年8月13日Muon: MomentUm Orthogonalized by Newton-Schulzoptimizertrainingorthogonalizationnewton-schulzspectralmilestoneinfra2026年8月07日Noisy-Label / 伪标签学习（带噪标签、合成数据、突破软标签天花板）noisy-labelpseudo-labeldistillationdataocrtraining2026年8月06日AdamW（解耦权重衰减的 Adam）optimizerweight-decaytraining2026年8月06日Label Smoothing 标签平滑regularizationlabel-smoothingtraininglossfoundation2026年8月06日Loss Functions 损失函数专题losstrainingdetectionocrfoundation2026年8月06日Learning Rate Schedule 学习率调度专题（warmup / cosine / step）learning-ratescheduletrainingfoundation2026年8月06日Normalization 归一化专题（BN / LN / IN / GN）normalizationtrainingdeep-learningfoundation2026年8月06日Optimizer 优化器专题（SGD / Momentum / AdaGrad / RMSProp / Adam / AdamW）optimizertrainingdeep-learningfoundation2026年8月06日Regularization 与 Weight Decay（正则化专题）regularizationweight-decaytrainingfoundation2026年8月06日Weight Initialization 参数初始化专题（Xavier / He）initializationtrainingfoundation2026年8月04日Dropout（随机失活）regularizationtrainingoverfitting2026年8月04日GELU（高斯误差线性单元）activationtransformertraining2026年8月04日ReLU（修正线性单元）activationcnntraining