RuntimeError: FlashAttention is only supported on CUDA 11 and above

作者：知新_RL | 2024-03-20 03:11:20

踩

runtimeerror: flashattention is only supported on cuda 11.6 and above. note:

问题描述

RuntimeError: FlashAttention is only supported on CUDA 11 and above
在这里插入图片描述

此错误的原因可能是 nvcc 的 CUDA 版本（通过键入“nvcc -V”获得，可能 < 11.0）与 torch (11.7) 的 CUDA 版本不匹配。

vim ~/.bashrc
1

在最后一行加上：

export PATH=/usr/local/cuda-11.7/bin:$PATH
1

然后：

source ~/.bashrc
1

注意这里的cuda-11.7需要依据自己电脑或者服务器上面的版本来改，找到/usr/local目录下来看。改成自己需要的版本。
在这里插入图片描述
感谢：
参考1
的haoychen3的帮助。

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/知新_RL/article/detail/270244