loss没有变化
收藏
宝可梦生成器,训练loss没变化,请问大家问题在哪儿(哭。链接:https://aistudio.baidu.com/aistudio/projectdetail/1453091?shared=1
训练截图如下:
0
收藏
请登录后评论
是不是学习率写的太小了?
应该不是吧,我试了一下比较大的。我怀疑是不是我写的网络有问题,我把中间的argmax去掉只留hidden_size=1直接concat上去,然后归一化了一下数据(data/167.0)就能下降了,虽然效果不好
梯度没更新?
训练集错了吧
明白了,argmax是不可导的,在model里面用它算了167个状态中最大的作为预测的颜色。但是因为他不可导就没法训练
看到网上有说一种叫做argsoftmax的东西,用它替代argmax可以求导,现在可以train了,虽然不知道效果咋样
感谢各位大佬
可能学习率太小了,或者可以改一下损失函数
这是要生成新的宝可梦吗~
就李宏毅老师那个机器学习里面讲的,我想试试,结果发现自己太菜了
get了