模型最后一个卷积层后加归一化层?
收藏
做gan的论文复现,发现官方源码在判别器的最后一层后加了一个归一化层,这是什么用途?
0
收藏
请登录后评论
我理解归一化层是为了整理参数的分布给下一层用,加速模型收敛。加在模型最后一层对计算loss有帮助么?
而且我的代码里加上这个归一化层,判别器的loss就不下降了,去掉就能
官方的源码应该是大家都跑过了,不会有问题的啊。一定是我理解或转Paddle的过程有问题,真是郁闷。。。
原版加的归一化层是 spectral normamlization,我用的是Paddle里的 fluid.layers.spectral_norm() 实现的