部署内存消耗过大-10NLP分类任务
759005264 发布于2021-08 浏览:3423 回复:0
0
收藏

10NLP分类任务(10个任务专业领域不一样,不能混合训练),使用到了ernie1.0 ;
ernie微调训练10个模型,使用单程序部署后内存消耗(后续还有跟多不同专业数据进来)过大,那么内存将按照N*2G速度增长
现在需要解决内存消耗过大这个问题(不考虑百度蒸馏方面技术),求大神指导

收藏
点赞
0
个赞
快速回复
TOP
切换版块