首页 Paddle框架 帖子详情
Paddle能否指定只训练某一层的参数?
收藏
快速回复
Paddle框架 问答模型训练 2424 5
Paddle能否指定只训练某一层的参数?
收藏
快速回复
Paddle框架 问答模型训练 2424 5

默认是每次train都把所有参数进行更新,

能否指定只更新最后全连接层的参数,或者只更新第一层的卷积网络的参数?

0
收藏
回复
全部评论(5)
时间顺序
学习委员
#2 回复于2019-10

可以的,把不想训练的层的ParamAttr的learning rate设为0,或者trainable设为False。

参考文档网址

https://www.paddlepaddle.org.cn/documentation/docs/zh/api_cn/fluid_cn.html#paramattr

0
回复
xushifang
#3 回复于2019-10

讲解的很详细,多谢啦!

0
回复
xushifang
#4 回复于2019-10

上面这个代码示例演示的是如何在创建layer的时候,设置它的param_attr。

如果是已经创建好的layer,后面是否可以修改它的param_attr?使用什么函数修改呢?

例如:

import paddle.fluid as fluid

w_param_attrs = fluid.ParamAttr(name="fc_weight",
learning_rate=0.5,
regularizer=fluid.regularizer.L2Decay(1.0),
trainable=True)
x = fluid.layers.data(name='X', shape=[1], dtype='float32')
y_predict = fluid.layers.fc(input=x, size=10, param_attr=w_param_attrs)

....

# 执行了一些其他代码之后,现在想把fc层参数的param_attr中的learning_rate。请问怎么实现呢?

0
回复
AI-BAI
#5 回复于2020-02
可以的,把不想训练的层的ParamAttr的learning rate设为0,或者trainable设为False。 [图片] 参考文档网址 https://www.paddlepaddle.org.cn/documentation/docs/zh/api_cn/fluid_cn.html#paramattr
展开

非常感谢,果然逛帖子能学到好多零散的知识

0
回复
AIStudio810258
#6 回复于2020-02
可以的,把不想训练的层的ParamAttr的learning rate设为0,或者trainable设为False。 [图片] 参考文档网址 https://www.paddlepaddle.org.cn/documentation/docs/zh/api_cn/fluid_cn.html#paramattr
展开

动态图可以冻结这个学习率么?

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户