首页 PaddleGAN 帖子详情
手写数字训练的gan训练20轮就输出全黑了
收藏
快速回复
PaddleGAN 问答生成 6943 53
手写数字训练的gan训练20轮就输出全黑了
收藏
快速回复
PaddleGAN 问答生成 6943 53

教材上的例程

https://aistudio.baidu.com/aistudio/projectdetail/499776

训练20轮左右分类器和判别器的loss就突然全大幅下降,然后生成图片就全黑了,怎么导致的?

 

0
收藏
回复
全部评论(53)
时间顺序
r
rose20135188
#42 回复于2020-09

留下脚印,

0
回复
RayAction
#43 回复于2020-09

参考下:

https://aistudio.baidu.com/aistudio/projectdetail/674700

0
回复
thinc
#44 回复于2020-09
将生成器的最后一层的激活函数改为tanh也可以起到稳定的效果,参见 https://aistudio.baidu.com/aistudio/projectdetail/551962

太玄了

0
回复
AIStudio810258
#45 回复于2020-09
文章写得很好懂!我生成器最后一层是tanh,用的也是lsgan loss,我试试调下G和D训练比例!

我也试过,那就属于自己配单方了。后来大神们改进的lsgan、wgan就是为了不用自己一边炼丹一边调火候~~

0
回复
AIStudio810258
#46 回复于2020-09
thinc #44
太玄了

这个因为输入数据范围归一化为【-1,1】区间,所以生成图片的数值也应该在【-1,1】范围。原来我用relu着,范围是【0,1】

0
回复
AIStudio810258
#47 回复于2020-09
thinc #44
太玄了

g用relu时生成的数字都是”瘦金体“的~~

0
回复
AIStudio810258
#48 回复于2020-09
thinc #44
太玄了

尤其前几轮,远远不如改为tanh激活后”圆润、饱满“,分析是因为g生成的像素里值小于1的都被抑制掉了。但训练后期区别也不大。但还是用tanh的稳定

0
回复
thinc
#49 回复于2020-09
我也试过,那就属于自己配单方了。后来大神们改进的lsgan、wgan就是为了不用自己一边炼丹一边调火候~~

666

0
回复
thinc
#50 回复于2020-09
这个因为输入数据范围归一化为【-1,1】区间,所以生成图片的数值也应该在【-1,1】范围。原来我用relu着,范围是【0,1】

都说不知道用什么的时候就用ReLU,但其实想优化还是得把所有可能的参数调一下

0
回复
AIStudio810258
#51 回复于2020-09

最近发现,wgan-gp的d的loss照样会飞天~~

0
回复
AIStudio810258
#52 回复于2020-09

试试spectral normalization 效果吧

0
回复
AIStudio810258
#53 回复于2020-09

现在有点儿明白了ugatit 为何要用lsgan + spectral norm ,而不是wgan了

0
回复
机智可爱肉肉
#54 回复于2021-06

楼主您好,我目前也遇到了您这样的情况,不过我是一开始训练生成的图像就是黑的,请问您的问题解决了嘛?tensorflow_tutorial/avatarDcgan at master · lpty/tensorflow_tutorial (github.com)  这是我使用代码的链接,链接能跑通,但是生成的图像是全黑的,从一开始就是黑的,有点愁找不到原因,还请楼主和各位大神们赐教

 

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户