RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0； 11.17 GiB total capacity； 1.10_tried to allocate 20.00 mib (gpu 0; 11.91 gib tota

作者：Gausst松鼠会 | 2024-03-11 21:20:24

踩

tried to allocate 20.00 mib (gpu 0; 11.91 gib total capacity; 10.74 gib alre

服务器上跑程序，出现这种错误，大概是因为程序太大内存不够，有以下两种解决方式：
1、batch_size设置太大，改小一点
2、cuda节点被占用，可以指定其他节点，一种方式：程序里面写device = torch.device(‘cuda:0’ if torch.cuda.is_available() else ‘cpu’)，服务器里面写CUDA_VISIBLE_DEVICES=X；另一种方式：程序里面直接写os.environ[“CUDA_VISIBLE_DEVICES”] = “2,3”

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/Gausst松鼠会/article/detail/220634