首页 Paddle框架 帖子详情
loss没有变化
收藏
快速回复
Paddle框架 问答深度学习 784 11
loss没有变化
收藏
快速回复
Paddle框架 问答深度学习 784 11

宝可梦生成器,训练loss没变化,请问大家问题在哪儿(哭。链接:https://aistudio.baidu.com/aistudio/projectdetail/1453091?shared=1

训练截图如下:

0
收藏
回复
全部评论(11)
时间顺序
陈鹏烨
#2 回复于2021-01

是不是学习率写的太小了?

0
回复
geoyee
#3 回复于2021-01
是不是学习率写的太小了?

应该不是吧,我试了一下比较大的。我怀疑是不是我写的网络有问题,我把中间的argmax去掉只留hidden_size=1直接concat上去,然后归一化了一下数据(data/167.0)就能下降了,虽然效果不好

0
回复
AIStudio810260
#4 回复于2021-01

梯度没更新?

0
回复
pureal
#5 回复于2021-01

训练集错了吧

0
回复
geoyee
#6 回复于2021-01

明白了,argmax是不可导的,在model里面用它算了167个状态中最大的作为预测的颜色。但是因为他不可导就没法训练

0
回复
geoyee
#7 回复于2021-01

看到网上有说一种叫做argsoftmax的东西,用它替代argmax可以求导,现在可以train了,虽然不知道效果咋样

0
回复
geoyee
#8 回复于2021-01

感谢各位大佬

0
回复
super松
#9 回复于2021-01

可能学习率太小了,或者可以改一下损失函数

0
回复
周小鱼whoyou
#10 回复于2021-01

这是要生成新的宝可梦吗~

0
回复
geoyee
#11 回复于2021-01
这是要生成新的宝可梦吗~

就李宏毅老师那个机器学习里面讲的,我想试试,结果发现自己太菜了

0
回复
AIStudio810260
#12 回复于2021-01
geoyee #7
看到网上有说一种叫做argsoftmax的东西,用它替代argmax可以求导,现在可以train了,虽然不知道效果咋样

get了

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户