adam优化器一般用l2正则化项么？

项目

数据集

课程

比赛

模型库

活动

论坛

访问飞桨官网

项目

数据集

课程

比赛

模型库

活动

论坛

访问飞桨官网

AIStudio810258 发布于2021-01

最近看了个帖子，说了下l2的原理和效果，提到只有sdg比较适合l2正则化项。实践上是这样么？

0

收藏

回复

全部评论(2)

AIStudio810258

#2 回复于2021-01

要是如帖子分析的那样，l2的应用范围大打折扣了

0

回复

AIStudio810258

#3 回复于2021-01

尤其提到adam、adagrad这样有累加参数的优化器，使用l2范数正则化项还会导致性能下降

0

回复

提issue

需求/bug反馈？一键提issue告诉我们

提pr

发现bug？如果您知道修复办法，欢迎提pr直接参与建设飞桨~