首页 Paddle框架 帖子详情
使用optimizer或ParamAttr设置的正则化和学习率,二者什么差异? 已解决
收藏
快速回复
Paddle框架 问答深度学习模型训练 329 1
使用optimizer或ParamAttr设置的正则化和学习率,二者什么差异? 已解决
收藏
快速回复
Paddle框架 问答深度学习模型训练 329 1

使用optimizer或ParamAttr设置的正则化和学习率,二者什么差异?

旧鸱c_
已解决
2# 回复于2021-08
ParamAttr中定义的regularizer优先级更高。若ParamAttr中定义了regularizer,则忽略Optimizer中的regularizer;否则,则使用Optimizer中的regularizer。ParamAttr中的学习率默认为1.0,在对参数优化时,最终的学习率等于optimizer的学习率乘以ParamAttr的学习率。
展开
0
收藏
回复
全部评论(1)
时间顺序
旧鸱c_
#2 回复于2021-08

ParamAttr中定义的regularizer优先级更高。若ParamAttr中定义了regularizer,则忽略Optimizer中的regularizer;否则,则使用Optimizer中的regularizer。ParamAttr中的学习率默认为1.0,在对参数优化时,最终的学习率等于optimizer的学习率乘以ParamAttr的学习率。

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户