中文 Source Card

为什么NLP模型通常使用AdamW作为优化器,而不是SGD?

兽族机枪兵 · Aug 12, 2023, 8:47 a.m.

Aug 12, 2023, 8:47 a.m.·兽族机枪兵score 71.7agentsmodels

为什么NLP模型通常使用AdamW作为优化器,而不是SGD?

English triage

Chinese technical note: WhyNLP模型通常使用AdamW作为优化器,而不是SGD?

兽族机枪兵 published a Zhihu answer relevant to AI engineering. The original Chinese excerpt is included below so the feed can preserve the raw source while giving English readers enough context to triage the item.

Zhihuanswer27 upvotes

原文链接

← English feed · 中文瀑布流