首页 Paddle框架 帖子详情
想问一下卷积核的值是如何确定的?
收藏
快速回复
Paddle框架 问答深度学习 13095 28
想问一下卷积核的值是如何确定的?
收藏
快速回复
Paddle框架 问答深度学习 13095 28

新人刚学习一段时间,看到卷积这里有个疑问,卷积核大小是3*3,但是它的内部的值是如何确定的呢?

是随机生成的还是有什么规定?

飞桨代码底层是如何实现的呢?

求大佬告诉一下,谢谢!

2
收藏
回复
全部评论(28)
时间顺序
m
mar836924042
#22 回复于2020-04
MLTcola #21
怎么感觉卷积层上的数就是要训练的参数中的一部分,一开始的话我猜测是随机的或者服从正态分布??  

卷积核里面数就是所谓的权重,网络训练时输出的结果会和数据集标签做损失计算,然后把计算得到的损失反向梯度下降去更新卷积核里的每一个参数。

所以卷积核里面的参数最终是训练得到的。但最开始时是需要给这些参数提供初始值才能使网络运行,可以简略分三种:

一种就是你提的那种 取偏差很小的高斯分布随机取值

第二种是 Xavier初始化方法

第三种是He kai ming初始化方法

其中第二、三种这两位大佬有专门发的一篇论文解释的。或者网上资料也很多,你可以查查。

8
回复
MLTcola
#23 回复于2020-04
卷积核里面数就是所谓的权重,网络训练时输出的结果会和数据集标签做损失计算,然后把计算得到的损失反向梯度下降去更新卷积核里的每一个参数。 所以卷积核里面的参数最终是训练得到的。但最开始时是需要给这些参数提供初始值才能使网络运行,可以简略分三种: 一种就是你提的那种 取偏差很小的高斯分布随机取值 第二种是 Xavier初始化方法 第三种是He kai ming初始化方法 其中第二、三种这两位大佬有专门发的一篇论文解释的。或者网上资料也很多,你可以查查。
展开

懂!

3
回复
austinleaven
#24 回复于2020-05

也进来学习下。。。。

0
回复
p
paddy_tian
#25 回复于2021-10

求哪位大佬告知论文名称

0
回复
膳蘸彝癱吻目轎
#26 回复于2021-10

http://ccfdap.wikidot.com/
http://xmadw.wikidot.com/
http://szhen88.wikidot.com/
http://hzp66.wikidot.com/
http://tjfap9.wikidot.com/
http://tjkap6.wikidot.com
http://tianj20.wikidot.com
http://xmazx.wikidot.com/
http://xmcsw.wikidot.com
http://xmaer.wikidot.com
http://xmkdp.wikidot.com
http://xadp.wikidot.com/
http://wuhpp.wikidot.com/
http://xadkpp.wikidot.com/
http://xahakp.wikidot.com/
http://wuhakp.wikidot.com/
http://31kjw.wikidot.com/
http://32kjw.wikidot.com/
http://34kjw.wikidot.com/
http://35kjw.wikidot.com/
http://33kjw.wikidot.com/
http://suz16.wikidot.com/
http://xafaa.wikidot.com/
http://syfwe.wikidot.com/
http://fuziap.wikidot.com/
http://sjz00.wikidot.com/
http://xad213.wikidot.com/
http://wuha63.wikidot.com/
http://sza3.wikidot.com/
http://sjzf9.wikidot.com/
http://sjzsa4.wikidot.com/
http://sjz65.wikidot.com/
http://zzziap.wikidot.com/
http://cskip.wikidot.com/
http://zzjiap.wikidot.com/
http://ccaip.wikidot.com/
http://fo11.wikidot.com/start
http://suz88.wikidot.com/
http://sz06.wikidot.com/
http://fos9.wikidot.com/
http://hnhjnrb579zg2.wikidot.com/
http://hnhjnrb579zg1.wikidot.com/
http://hnhjnrb579zg3.wikidot.com/
http://hnhjnrb579zg4.wikidot.com/
http://hnhjnrb579zg5.wikidot.com/
http://fplvdlh115zg1.wikidot.com/
http://fplvdlh115zg2.wikidot.com/
http://fplvdlh115zg3.wikidot.com/
http://fplvdlh115zg4.wikidot.com/
http://fplvdlh115zg5.wikidot.com/
http://icscooy628zg1.wikidot.com/
http://icscooy628zg2.wikidot.com/
http://icscooy628zg3.wikidot.com/
http://icscooy628zg4.wikidot.com/
http://icscooy628zg5.wikidot.com/
http://xrtvtth195zg1.wikidot.com/
http://xrtvtth195zg2.wikidot.com/
http://xrtvtth195zg3.wikidot.com/
http://xrtvtth195zg4.wikidot.com/
http://xrtvtth195zg5.wikidot.com/
http://ucissso486zg1.wikidot.com/
http://ucissso486zg2.wikidot.com/
http://ucissso486zg3.wikidot.com/
http://ucissso486zg4.wikidot.com/
http://ucissso486zg5.wikidot.com/
http://jbbtlht151zg1.wikidot.com/
http://jbbtlht151zg2.wikidot.com/
http://jbbtlht151zg3.wikidot.com/
http://jbbtlht151zg4.wikidot.com/
http://jbbtlht151zg5.wikidot.com/

0
回复
鯊鱼辣焦
#29 回复于2022-05

一开始随机生成(根据某些分布),后面训练得来

0
回复
Zj_TJU
#30 回复于2022-05
http://ccfdap.wikidot.com/ http://xmadw.wikidot.com/ http://szhen88.wikidot.com/ http://hzp66.wikidot.com/ http://tjfap9.wikidot.com/ http://tjkap6.wikidot.com http://tianj20.wikidot.com http://xmazx.wikidot.com/ http://xmcsw.wikidot.com http://xmaer.wikidot.com http://xmkdp.wikidot.com http://xadp.wikidot.com/ http://wuhpp.wikidot.com/ http://xadkpp.wikidot.com/ http://xahakp.wikidot.com/ http://wuhakp.wikidot.com/ http://31kjw.wikidot.com/ http://32kjw.wikidot.com/ http://34kjw.wikidot.com/ http://35kjw.wikidot.com/ http://33kjw.wikidot.com/ http://suz16.wikidot.com/ http://xafaa.wikidot.com/ http://syfwe.wikidot.com/ http://fuziap.wikidot.com/ http://sjz00.wikidot.com/ http://xad213.wikidot.com/ http://wuha63.wikidot.com/ http://sza3.wikidot.com/ http://sjzf9.wikidot.com/ http://sjzsa4.wikidot.com/ http://sjz65.wikidot.com/ http://zzziap.wikidot.com/ http://cskip.wikidot.com/ http://zzjiap.wikidot.com/ http://ccaip.wikidot.com/ http://fo11.wikidot.com/start http://suz88.wikidot.com/ http://sz06.wikidot.com/ http://fos9.wikidot.com/ http://hnhjnrb579zg2.wikidot.com/ http://hnhjnrb579zg1.wikidot.com/ http://hnhjnrb579zg3.wikidot.com/ http://hnhjnrb579zg4.wikidot.com/ http://hnhjnrb579zg5.wikidot.com/ http://fplvdlh115zg1.wikidot.com/ http://fplvdlh115zg2.wikidot.com/ http://fplvdlh115zg3.wikidot.com/ http://fplvdlh115zg4.wikidot.com/ http://fplvdlh115zg5.wikidot.com/ http://icscooy628zg1.wikidot.com/ http://icscooy628zg2.wikidot.com/ http://icscooy628zg3.wikidot.com/ http://icscooy628zg4.wikidot.com/ http://icscooy628zg5.wikidot.com/ http://xrtvtth195zg1.wikidot.com/ http://xrtvtth195zg2.wikidot.com/ http://xrtvtth195zg3.wikidot.com/ http://xrtvtth195zg4.wikidot.com/ http://xrtvtth195zg5.wikidot.com/ http://ucissso486zg1.wikidot.com/ http://ucissso486zg2.wikidot.com/ http://ucissso486zg3.wikidot.com/ http://ucissso486zg4.wikidot.com/ http://ucissso486zg5.wikidot.com/ http://jbbtlht151zg1.wikidot.com/ http://jbbtlht151zg2.wikidot.com/ http://jbbtlht151zg3.wikidot.com/ http://jbbtlht151zg4.wikidot.com/ http://jbbtlht151zg5.wikidot.com/
展开

广告号?

0
回复
pad_boy
#32 回复于2023-03

这个有用

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户