使用aistudio至尊版,cuda error(9)问题
收藏
当batch为16的时候可以运行但是32的时候就会出现cuda error(9) 显存才使用了2G
OSError: (External) Cuda error(9), invalid configuration argument.
[Advise: This indicates that a kernel launch is requesting resources that can never be satisfied by the current device. Requestingmore shared memory per block than the device supports will trigger this error, as will requesting too many threads or blocks.See cudaDeviceProp for more device limitations.] (at /paddle/paddle/fluid/operators/argsort_op.cu:175)
[operator < argsort > error]
terminate called without an active exception
0
收藏
请登录后评论
这个报的不是显存溢出,是说线程什么的太多了。执行到哪行报的错?
执行到数据载入的时候就报错了 numwork设置的为4 现在已经可以用了 把paddle2.0.2改成2.1.2就好了 不知道为啥
2.0和2.1的dataloader读取数据的格式稍有不同,可能跟这个也有关吧