cuda版本是否对PaddleOCR tensorrt推理启动速度有影响？
收藏
环境：win10 cuda:11.6 cudnn:8.4 TensorRT:7.2.2.3 Paddle_inference推理库为2.1.1 TensorRT模式下的推理程序的启动速度要七八分钟
而同样的程序在 win10 cuda10.2 cudnn:7.6 TensorRT:7.2.2.3 Paddle_inference推理库为2.1.1 的环境下，推理程序启动只要两分钟就够了。
想请问一下各位，这是cuda的版本影响了TensorRT模式下的推理启动速度吗？
0
收藏
请登录后评论
