各种推理套件
收藏
各位大佬, 我看飞桨框架里面有各种推理套件,从paddle inference, 到各个套件(如paddle detection里面的predict脚本),还有fastdeploy, 这些套壳里面的东西都一样吗?是不是都是基于paddle.inference做的后处理,方便人使用?如果要想定制化自己的推理程序,是不是还是要把paddle.inference这个API玩透?
0
收藏
请登录后评论
也要看你推理程序的方向。
服务器上推理的话,有Paddle Serving。
端侧的话,有Paddle Lite。
等等