训练不久后就出现Cost nan 是什么原因
收藏
训练开始还可以之后就变成了Cost nan 怎么解决啊
Pass 0 , Batch 400 , Cost 9.932017 , {'classification_error_evaluator': 0.9800000190734863}
...................................................................................................
Pass 0 , Batch 500 , Cost 9.067940 , {'classification_error_evaluator': 0.9800000190734863}
...................................................................................................
Pass 0 , Batch 600 , Cost nan , {'classification_error_evaluator': 1.0}
...................................................................................................
Pass 0 , Batch 700 , Cost nan , {'classification_error_evaluator': 1.0}
0
收藏
请登录后评论
应该是梯度爆炸了,可以试试减小学习率,加正则,使用BN层
batch_size设为1且存在batch_norm层是不是也可能出现这个问题?
您好,如果您在使用中遇到类似的问题,方便的话请您提供下详细代码,以便解决~感谢您的支持!
module11-17来自https://github.com/PaddlePaddle/models/blob/develop/fluid/object_detection/mobilenet_ssd.py
谢谢,就是学习率的问题,改小了就好了
我也遇到这种情况了,不知道是不是接近0的数值太多了,不知道这种情况怎么处理
原来如此