关于paddlepaddle使用推理模式时CUDA error:out of memory错误的解决办法_out of memory error on gpu 0. cannot allocate 56.2

作者：凡人多烦事01 | 2024-04-06 10:21:40

踩

out of memory error on gpu 0. cannot allocate 56.250000mb memory on gpu 0, 2

在paddlepaddle的export.py导出的模型（也就是生成__model__,params,deploy.yaml三个文件），
运行时报错Out of memory error on GPU 0. Cannot allocate 32.959229MB memory on GPU 0, available memory is only 3.287499MB.

其实显卡时内存足够的。

解决办法：

在程序运行的前面添加如下代码


import os
os.environ['FLAGS_eager_delete_tensor_gb'] = "0.0"

主要作用是 GPU memory garbage collection optimization flags

原文链接：https://blog.csdn.net/weixin_44831720/article/details/105507386

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/凡人多烦事01/article/detail/371346