最全PyTorch安装心得！_深度学习实验pytorch框架安心得

Pytorch的安装

PyTorch的安装绝对是一个不是那么简单的过程，或多或少总是会出现一些奇奇怪怪的问题，这里分享记录一下PyTorch的安装心得。

查看显卡信息

没用显卡的直接跳过，然后通过在cmd命令行中输入nvidia-smi（Linux和Win命令一样）、使用NVIDIA控制面板和使用任务管理器查看机器是否有NVIDIA的独立显卡及其型号

python
复制代码
root@master:/code # nvidia-smi
Fri Dec  8 03:09:45 2023       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 470.57.02    Driver Version: 470.57.02    CUDA Version: 11.4     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  Tesla V100S-PCI...  Off  | 00000000:8B:00.0 Off |                    0 |
| N/A   35C    P0    27W / 250W |      0MiB / 32510MiB |      0%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15

CUDA兼容性

参考：CUDA兼容性

NVIDIA CUDA工具包使开发人员能够为台式计算机、企业和数据中心乃至超大规模企业构建 NVIDIA GPU 加速的计算应用程序。它由 CUDA 编译器工具链组成，其中包括 CUDA 运行时 (cudart) 以及各种 CUDA 库和工具。要构建应用程序，开发人员只需安装 CUDA 工具包和链接所需的必要库。

为了运行 CUDA 应用程序，系统应具有支持 CUDA 的 GPU 和与用于构建应用程序本身的 CUDA 工具包兼容的 NVIDIA 显示驱动程序。如果应用程序依赖于库的动态链接，那么系统也应该具有此类库的正确版本。

CUDA 的组件:

CUDA软件主要包括三部分：

复制代码
CUDA Toolkit ： 库文件、运行环境 和 开发工具， 主要是面向开发者 CUDA编译环境

CUDA Driver： 用户驱动组建，用于运行 CUDA 程序，可以理解为 CUDA运行环境

Nvidia GPU 驱动 ： 显卡核心驱动，就是 硬件驱动
1
2
3
4
5
6

CUDA版本与驱动版本关系如下：

参考：CUDA发布说明

一定要保证PyTorch与cuda toolkit的版本适配，参考：PyTorch版本要求

总结概括：Nvidia GPU驱动必须大于CUDA Toolkit要求的Nvida GPU驱动版本，或者PyTorch版本要求的CUDA版本对应驱动与Nvidia GPU驱动符合匹配要求

安装说明

访问PyTorch官网

可以选择本地开始（Start Locally），云开发（Cloud Partners)，以前的Pytorch版本（Previous PyTorch Versions），移动端开发（Mobile），在此处选择本地安装

Windows下使用PIP方式安装，计算平台使用CPU，安装方式如下：

python
复制代码
pip3 install torch torchvision torchaudio
1
2
3

Windows下使用conda方式安装，计算平台使用cuda，安装方式如下：

python
复制代码
conda install pytorch torchvision torchaudio pytorch-cuda=11.8 -c pytorch -c nvidia
1
2
3

更多安装方式参考：https://pytorch.org/get-started/locally/

注意：

复制代码
Stable代表的是稳定版本，Preview代表的是先行版本

结合电脑是否有显卡，选择CPU版本还是CUDA版本，CUDA版本需要拥有独显且是NVIDIA的GPU

一定要保持PyTorch和cudatoolkit的版本适配
1
2
3
4
5
6

开始安装

在上面使用nvidia-smi命令查看显卡信息，得出驱动程序版本是470.57.02，显卡驱动支持的CUDA版本是11.4，参考上面CUDA版本与GPU驱动程序版之间的关系列表，得出：

复制代码
 1.若使用当前机器上GPU驱动，不升级，则只能从PyTorch官网查询与当前GPU所使用的CUDA相匹配的PyTorch版本

 2.若想使用较新版本的PyTorch，其使用的CUDA版本以及要求的GPU驱动版本必定较高，此时需要升级机器是的GPU驱动

 3.一定保证PyTorch版本要求使用的CUDA版本对应的驱动与GPU驱动版本相匹配
1
2
3
4
5
6

这里没有PyTorch版本特殊要求，使用最便捷的方式，不对当前GPU驱动进行升级，访问PyTorch版本记录查询匹配的PyTorch版本进行安装。

因为该机器可以支持最高CUDA版本为11.4，且官方版本记录中没有找到CUDA11.4的支持，驱动可以向下兼容，所以小于等于11.4的CUDA版本理论来说都可以安装，这里选择CUDA 11.3

具体安装命令如下：

python
复制代码
# CUDA 11.3
conda install pytorch==1.12.1 torchvision==0.13.1 torchaudio==0.12.1 cudatoolkit=11.3 -c pytorch
1
2
3
4

注意：

根据自身网络情况调整下载地址

python
复制代码
# 从官网下载
-c pytorch

# 单独指定一个镜像下载
–c 镜像地址
1
2
3
4
5
6
7

检验是否安装成功

python
复制代码
import torch

if __name__ == '__main__':
    if torch.cuda.is_available():
        print("GPU是否可用：", torch.cuda.is_available())  # 查看GPU是否可用
        print("GPU数量：", torch.cuda.device_count())  # 查看GPU数量
        print("torch方法查看CUDA版本：", torch.version.cuda)  # torch方法查看CUDA版本
        print("GPU索引号：", torch.cuda.current_device())  # 查看GPU索引号
        print("GPU名称：", torch.cuda.get_device_name(0))  # 根据索引号得到GPU名称
    else:
        print("GPU不可用")
1
2
3
4
5
6
7
8
9
10
11
12
13

常见异常

各种相关依赖、库文件安装完毕后，准备启动项目，出现异常：

python
复制代码
CUDA initialization: The NVIDIA driver on your system is too old (found version 11040). Please update your GPU driver by downloading and installing a new version from the URL: http://www.nvidia.com/Download/index.aspx Alternatively, go to: https://pytorch.org to install a PyTorch version that has been compiled with your version of the CUDA driver. (Triggered internally at ../c10/cuda/CUDAFunctions.cpp:108.)
1
2
3

原因：

系统上的NVIDIA驱动程序版本过旧，或者说NVIDIA驱动程序和CUDA驱动程序与所安装的PyTorch版本存在兼容性

解决办法：

1.下载并安装新版本的GPU驱动程序：http://www.nvidia.com/Download/index.aspx

2.安装一个与CUDA 驱动程序版本兼容的PyTorch版本：https://pytorch.org

在更新了驱动程序或安装了兼容的 PyTorch 版本后，这个问题应该会得到解决。

安装CUDA

NVIDIA GPU驱动程序已经包含了基本的CUDA支持，但安装额外的CUDA工具包可以提供更多功能和开发工具，能够更好地编写、调试和优化CUDA程序。这取决于具体需求和开发环境。

访问https://developer.nvidia.com/cuda-downloads下载对应版本的CUDA 选择需要的版本进行下载 默认情况下是自动添加到环境变量中，变量名:CUDA_PATH 变量值:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.8

验证查看CUDA的版本信息

python
复制代码
C:\Users\Admin>nvcc -V
nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2022 NVIDIA Corporation
Built on Wed_Sep_21_10:41:10_Pacific_Daylight_Time_2022
Cuda compilation tools, release 11.8, V11.8.89
Build cuda_11.8.r11.8/compiler.31833905_0
1
2
3
4
5
6
7
8

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。