模型训练完成后,可以在普通服务器上运行吗?
收藏
我知道,模型训练需要的资源比较大,特别是GPU和内存。我想知道的是,模型训练完成后,
可以在普通的服务器上面运行吗?比如4CPU,16G的云服务器。
0
收藏
请登录后评论
分布式,不可以。单机话应该没问题
有没有人在windows 2008上部署过?
可以考虑用PaddleSlim压缩
https://github.com/PaddlePaddle/PaddleSlim
感觉用windows肯定会出各种奇葩的毛病,还不如找台linux虚拟机呢。。。
训练需要资源大不代表模型就一定很大
预测需要的资源要比训练小得多,说不定在一般的机器上也能跑
或者可以试一下network pruning精简一下模型
是的
生成后的模型大的话可以考虑用PaddleSlim剪裁、量化和压缩
当然是可以的