out of memory问题以及不会调gpu
收藏
小白学习复现预训练模型 ERNIE-Gram型 ERNIE-Gram时出现两个困惑。一直不会调gpu,我想用自己的笔记本电脑3060显卡(gpu1)跑,但是一直调用gpu0也就是集显,导致out of memory。后来batch-size改成16跑起来了(但应该也是用的gpu0),训练中间又out of memory了,因为用的是下面这个帖子的代码,所以应该不会有错。不知道是不是用独显是不是就不会有问题了,还是我的电脑就带不起来,还是其他什么问题?(代码网页:https://aistudio.baidu.com/aistudio/projectdetail/2029701)
0
收藏
请登录后评论
继续改小batch-size
谢谢大佬。我前段时间减小到8没有再报错。但是我的模型没有收敛,我完全按照网页代码,为什么会出现这种情况呢,accu始终保持在0.50011
项目404 没有收敛可以改lr 不知道用多少一般用1e-3或者1e-4,其他的可能得看代码了,就是可能写错了。
batch-size改为1