ParamAttr问题
收藏
param_attr=ParamAttr(name=name + "_weights"),
bias_attr=False,
我在resnet里面有这么一句,还请大神能不能给我解释一下是啥意思
0
收藏
请登录后评论
你这个括号表达的不是很清晰,bias_attr看起来也像是参数,这个其实就是指定你的参数有没有b,也就是y=kx和y=kx+b的区别。
name属性基本没啥用,调试的时候会去看,不用管他也没事
@请叫我梦想家2
bias_attr=False,就是选择不要对神经元添加偏置向,一般神经元操作就是y = Act(Wx+b), input:x, W:weight, bias:b, output:y.
ParamAttr主要是对这一层的参数的初始化、正则、梯度裁减等进行描述,name只是规定该层参数名字,对于保存和读取权重参数有影响但是对于训练过程和结果不产生影响(具体可查看官方api:https://www.paddlepaddle.org.cn/documentation/docs/zh/api_cn/fluid_cn/ParamAttr_cn.html#paramattr)