项目
数据集
课程
比赛
模型库
活动
更多
用户排行
深度学习工程师认证
证书查询
教育合作
文档
积分商城
论坛
访问飞桨官网
登录
首页
PaddleSlim
帖子详情
cpu上跑量化后的模型出nan
已解决
收藏
快速回复
PaddleSlim
问答
量化
474
1
项目
数据集
课程
比赛
模型库
活动
更多
用户排行
深度学习工程师认证
证书查询
教育合作
文档
积分商城
论坛
访问飞桨官网
登录
cpu上跑量化后的模型出nan
已解决
收藏
快速回复
PaddleSlim
问答
量化
474
1
永
永无止境478
发布于2021-08
cpu上跑量化后的模型出nan
旧
旧鸱c_
已解决
2#
回复于2021-08
需要适当调小学习率。如果小学习率依然不能解决问题,则需要考虑是否某些层对量化敏感,需要跳过量化,比如attention.
0
收藏
回复
全部评论(
1
)
时间顺序
旧
旧鸱c_
#2
回复于2021-08
需要适当调小学习率。如果小学习率依然不能解决问题,则需要考虑是否某些层对量化敏感,需要跳过量化,比如attention.
0
回复
请
登录
后评论
提issue
需求/bug反馈?一键提issue告诉我们
提pr
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户
需要适当调小学习率。如果小学习率依然不能解决问题,则需要考虑是否某些层对量化敏感,需要跳过量化,比如attention.