首页 PaddleSlim 帖子详情
cpu上跑量化后的模型出nan 已解决
收藏
快速回复
PaddleSlim 问答量化 474 1
cpu上跑量化后的模型出nan 已解决
收藏
快速回复
PaddleSlim 问答量化 474 1
cpu上跑量化后的模型出nan
旧鸱c_
已解决
2# 回复于2021-08
需要适当调小学习率。如果小学习率依然不能解决问题,则需要考虑是否某些层对量化敏感,需要跳过量化,比如attention.
0
收藏
回复
全部评论(1)
时间顺序
旧鸱c_
#2 回复于2021-08

需要适当调小学习率。如果小学习率依然不能解决问题,则需要考虑是否某些层对量化敏感,需要跳过量化,比如attention.

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户