首页 Paddle框架 帖子详情
out of memory问题以及不会调gpu
收藏
快速回复
Paddle框架 问答模型训练深度学习 470 4
out of memory问题以及不会调gpu
收藏
快速回复
Paddle框架 问答模型训练深度学习 470 4

小白学习复现预训练模型 ERNIE-Gram型 ERNIE-Gram时出现两个困惑。一直不会调gpu,我想用自己的笔记本电脑3060显卡(gpu1)跑,但是一直调用gpu0也就是集显,导致out of memory。后来batch-size改成16跑起来了(但应该也是用的gpu0),训练中间又out of memory了,因为用的是下面这个帖子的代码,所以应该不会有错。不知道是不是用独显是不是就不会有问题了,还是我的电脑就带不起来,还是其他什么问题?(代码网页:https://aistudio.baidu.com/aistudio/projectdetail/2029701)

0
收藏
回复
全部评论(4)
时间顺序
十进制到二进制
#2 回复于2022-03

继续改小batch-size

0
回复
wjzqbb1234
#3 回复于2022-03
继续改小batch-size

谢谢大佬。我前段时间减小到8没有再报错。但是我的模型没有收敛,我完全按照网页代码,为什么会出现这种情况呢,accu始终保持在0.50011

0
回复
十进制到二进制
#4 回复于2022-03
谢谢大佬。我前段时间减小到8没有再报错。但是我的模型没有收敛,我完全按照网页代码,为什么会出现这种情况呢,accu始终保持在0.50011

项目404 没有收敛可以改lr 不知道用多少一般用1e-3或者1e-4,其他的可能得看代码了,就是可能写错了。

0
回复
潮流MI
#5 回复于2022-04

batch-size改为1

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户