GPU版PyTorch安装_torch gpu版本

本文章记录了配置CUDA11.3+Pytorch1.12.0的全过程，以备之后配置新的环境。

一、先导内容

在深度学习中，我们常常要对图像数据进行处理和计算，而处理器CPU因为需要处理的事情多，并不能满足我们对图像处理和计算速度的要求，显卡GPU就是来帮助CPU来解决这个问题的，GPU特别擅长处理图像数据。统一计算设备架构CUDA（Compute Unified Device Architecture），是显卡厂商NVIDIA推出的运算平台。CUDA™是一种由NVIDIA推出的通用并行计算架构，该架构使GPU能够解决复杂的计算问题。它包含了CUDA指令集架构（ISA）以及GPU内部的并行计算引擎，安装CUDA之后，可以加快GPU的运算和处理速度。一台电脑上可以有多个版本的CUDA。

（1）显卡

显卡（Video card，Graphics card）全称显示接口卡，又称显示适配器，是计算机最基本配置、最重要的配件之一。显卡作为电脑主机里的一个重要组成部分，是电脑进行数模信号转换的设备，承担输出显示图形的任务。显卡接在电脑主板上，它将电脑的数字信号转换成模拟信号让显示器显示出来，同时显卡还是有图像处理能力，可协助CPU工作，提高整体的运行速度。对于从事专业图形设计的人来说显卡非常重要。民用和军用显卡图形芯片供应商主要包括AMD(超微半导体)和Nvidia(英伟达)2家。现在的top500计算机，都包含显卡计算核心。在科学计算中，显卡被称为显示加速卡。

（2）显存

也被叫做帧缓存，它的作用是用来存储显卡芯片处理过或者即将提取的渲染数据。如同计算机的内存一样，显存是用来存储要处理的图形信息的部件。

（3）CUDA Toolkit

CUDA工具包的主要包含了CUDA-C和CUDA-C++编译器、一些科学库和实用程序库、CUDA和library API的代码示例、和一些CUDA开发工具。（通常在安装CUDA Toolkit的时候会默认安装CUDA Driver；但是我们经常只安装CUDA Driver，没有安装CUDA Toolkit，因为有时不一定用到CUDA Toolkit；比如我们的笔记本电脑，安装个CUDA Driver就可正常看视频、办公和玩游戏了）

安装CUDA就是安装CUDA Toolkit（CUDA是运算平台名称、CUDA Toolkit是工具包）。

（4）NVCC

NVCC是NVIDIA CUDA Compiler的缩写，它是一个专门用于编译和优化CUDA（Compute Unified Device Architecture）代码的编译器，用于将使用C或C++等语言编写的CUDA源代码转换为可在Nvidia GPU上执行的机器代码。NVCC 能够将包含 CUDA 代码（内含 global 函数等 CUDA 特性）的源文件编译成可在支持 CUDA 的 NVIDIA GPU 上执行的二进制代码。

CUDA 有两种API，分别是运行时API和驱动API：Runtime API 与 Driver API。nvidia-smi是 CUDA Driver API（驱动API）的版本，也是当前驱动支持的最高CUDA版本。而nvcc的结果是对应 CUDA Runtime API（运行API）的版本。每个CUDA的版本会要求一个最低的显卡驱动版本；而显卡驱动会提供一个最高支持的CUDA 版本。

（5）显卡、显卡驱动、CUDA

• 显卡：（GPU），主流是NVIDIA的GPU，因为深度学习本身需要大量计算。GPU的并行计算能力，在过去几年里恰当地满足了深度学习的需求。AMD的GPU基本没有什么支持，可以不用考虑。
• 驱动：没有显卡驱动，就不能识别GPU硬件，不能调用其计算资源。
• CUDA：是显卡厂商NVIDIA推出的只能用于自家GPU的并行计算框架。只有安装这个框架才能够进行复杂的并行计算。主流的深度学习框架也都是基于CUDA进行GPU并行加速的，几乎无一例外。还有一个叫做cudnn，是针对深度卷积神经网络的加速库。 

二、CUDA安装

本人电脑配置：Win11+NVIDIA GeForce RTX 4060

CUAD下载文档：

CUDA Installation Guide for Microsoft Windows

（1）安装步骤总结

• 查看有是否有支持NVIDA的独立显卡
• 查看是否有NVIDA显卡驱动程序，没有需要下载安装
• 官网下载安装 Microsoft Visual Studio
• 官网下载安装 CUDA
• 检验CUDA安装是否成功
• CUDA安装成功后的使用

（2）查看GPU是否支持CUDA

1. 查看电脑GPU型号

   

2. 在NVIDA官网列表中，地址：CUDA GPUs - Compute Capability | NVIDIA Developer，查看自己的显卡型号是否在NVIDA列表中，若存在则可以下载cuda实现GPU加速