首页 Paddle Lite 帖子详情
PaddleSlim与Paddle Lite、Paddle Inference对于量化的支持是怎么样的? 已解决
收藏
快速回复
Paddle Lite 问答推理 1034 1
PaddleSlim与Paddle Lite、Paddle Inference对于量化的支持是怎么样的? 已解决
收藏
快速回复
Paddle Lite 问答推理 1034 1

PaddleSlim与Paddle Lite、Paddle Inference对于量化的支持是怎么样的?

旧鸱c_
已解决
2# 回复于2021-08
开发者可以通过PaddleSlim获得量化模型。Paddle Lite和Paddle Inferece对int8的量化支持是最为完备,因此推荐飞桨的开发者在实际使用中,使用int8量化。 另外,Paddle Inference还支持fp16的混合精度推理。
展开
0
收藏
回复
全部评论(1)
时间顺序
旧鸱c_
#2 回复于2021-08

开发者可以通过PaddleSlim获得量化模型。Paddle Lite和Paddle Inferece对int8的量化支持是最为完备,因此推荐飞桨的开发者在实际使用中,使用int8量化。 另外,Paddle Inference还支持fp16的混合精度推理。

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户