首页 Paddle Lite 帖子详情
Paddle Lite支持英伟达的Jetson硬件吗? 已解决
收藏
快速回复
Paddle Lite 问答推理 1357 1
Paddle Lite支持英伟达的Jetson硬件吗? 已解决
收藏
快速回复
Paddle Lite 问答推理 1357 1

Paddle Lite支持英伟达的Jetson硬件吗?

旧鸱c_
已解决
2# 回复于2021-08
对于英伟达的Jetson硬件,用户应该使用飞桨的原生推理库paddle inference。 使用Paddle Inference有两个优势:1. Paddle Inference是PaddlePaddle的原生推理库,与NV的Jeston硬件做了深度的适配,在该硬件上支持的所有Paddle原生的模型 2. 使用Paddle inference,可以利用TRT加速推理。 因为Jetson硬件本身是arm cpu+ NV gpu的异构硬件,如果只是使用Jetson的cpu做推理的话,是可以使用Paddle Lite的,但是显然,这样会浪费该硬件的GPU能力。
展开
0
收藏
回复
全部评论(1)
时间顺序
旧鸱c_
#2 回复于2021-08

对于英伟达的Jetson硬件,用户应该使用飞桨的原生推理库paddle inference。

使用Paddle Inference有两个优势:1. Paddle Inference是PaddlePaddle的原生推理库,与NV的Jeston硬件做了深度的适配,在该硬件上支持的所有Paddle原生的模型 2. 使用Paddle inference,可以利用TRT加速推理。 因为Jetson硬件本身是arm cpu+ NV gpu的异构硬件,如果只是使用Jetson的cpu做推理的话,是可以使用Paddle Lite的,但是显然,这样会浪费该硬件的GPU能力。

1
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户