OCR 与文档智能研究 Wiki

Tag: optimizer

3 items with this tag.

  • 2026年8月13日

    Muon: MomentUm Orthogonalized by Newton-Schulz

    • optimizer
    • training
    • orthogonalization
    • newton-schulz
    • spectral
    • milestone
    • infra
  • 2026年8月06日

    AdamW(解耦权重衰减的 Adam)

    • optimizer
    • weight-decay
    • training
  • 2026年8月06日

    Optimizer 优化器专题(SGD / Momentum / AdaGrad / RMSProp / Adam / AdamW)

    • optimizer
    • training
    • deep-learning
    • foundation

3 items with this tag.

  • 2026年8月13日

    Muon: MomentUm Orthogonalized by Newton-Schulz

    • optimizer
    • training
    • orthogonalization
    • newton-schulz
    • spectral
    • milestone
    • infra
  • 2026年8月06日

    AdamW(解耦权重衰减的 Adam)

    • optimizer
    • weight-decay
    • training
  • 2026年8月06日

    Optimizer 优化器专题(SGD / Momentum / AdaGrad / RMSProp / Adam / AdamW)

    • optimizer
    • training
    • deep-learning
    • foundation

Created with Quartz © 2026

  • GitHub