请问paddlepaddle如何实现余弦退火算法
收藏
有没有例程可以参考
0
收藏
请登录后评论
搜到了这个贴子。
http://willtian.cn/?p=812
使用过程中,发现adam优化器也会在一定条件下增大学习率而跳出局部最优。
多谢多谢
直接找一个余弦退火算法的思路 然后照着写代码就行
我觉得也是,就是用paddle的那个分段衰减的参数手动设置了。
昨天那个NLP还是没明白你的意思