RuntimeError: CUDA out of memory.

作者：从前慢现在也慢 | 2024-04-11 10:45:22

踩

问题和解决办法：

我认为对于 GPU 内存较低的 PyTorch 用户来说，这是一个非常常见的消息：

RuntimeError: CUDA out of memory. Tried to allocate X MiB (GPU X; X GiB total capacity; X GiB already allocated; X MiB free; X cached)

我尝试通过将每一层加载到 GPU 然后加载回来来处理图像：


for m in self.children():
    m.cuda()
    x = m(x)
    m.cpu()
    torch.cuda.empty_cache()

但似乎效果不是很大。虽然


import torch
torch.cuda.empty_cache()

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/从前慢现在也慢/article/detail/404533