首页 Paddle框架 帖子详情
CUDA error:out of memory
收藏
快速回复
Paddle框架 问答深度学习模型训练炼丹技巧 4289 1
CUDA error:out of memory
收藏
快速回复
Paddle框架 问答深度学习模型训练炼丹技巧 4289 1

在paddlepaddle的export.py导出的模型(也就是生成__model__,params,deploy.yaml三个文件),
运行时报错

Out of memory error on GPU 0. Cannot allocate 32.959229MB memory on GPU 0, available memory is only 3.287499MB.

其实显卡时内存足够的。

解决办法:

在程序运行的前面添加如下代码

os.environ[‘FLAGS_eager_delete_tensor_gb’] = “0.0”

主要作用是 GPU memory garbage collection optimization flags

另外 其他办法做一个总结(没有验证过)

1 如果是在多卡的环境下运行的出现错误
可以设置
CUDA_VISIBLE_DEVICES=“0” #后面是显卡编号,确保程序在这张显卡上运行

2 如果是在自己写的代码下运行报错
一定要开启model.eval()

0
收藏
回复
全部评论(1)
时间顺序
thinc
#2 回复于2020-04

这是一篇攻略帖吧~

0
回复
需求/bug反馈?一键提issue告诉我们
发现bug?如果您知道修复办法,欢迎提pr直接参与建设飞桨~
在@后输入用户全名并按空格结束,可艾特全站任一用户