当前位置:   article > 正文

02-ChatGLM4实践—CUDA环境配置_chatglm4 最低部署要求

chatglm4 最低部署要求

1、CUDA和驱动的对应版本

查看地址:https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html
由于ChatGLM 采用的深度学习框架是Pytorch2.3,本次安装是GPU版本,对应的CUD为12.1
在这里插入图片描述

2、显卡信息

1 打开“任务管理器“”,性能下面查看显卡的硬件信息
在这里插入图片描述
2 查看驱动版本,如果版本不符合请更新显驱动
方式1: 显卡控制面板
在这里插入图片描述
方式2:快捷指令
终端中输入:nvidia-smi在这里插入图片描述

3、安装显卡驱动

如果显卡版本达到要求可以略过本条
下载地址:https://www.nvidia.cn/Download/index.aspx?lang=cn&ptid=1&psid=52&pid=0
在这里插入图片描述
按照默认提示安装即可

4、CUDA安装

1 CUDA(ComputeUnified Device Architecture),是显卡厂商NVIDIA推出的运算平台。 CUDA是一种由NVIDIA推出的通用并行计算架构,该架构使GPU能够解决复杂的计算问题。
下载地址:https://developer.nvidia.com/cuda-toolkit-archive
在这里插入图片描述
在这里插入图片描述
2 安装过程
在这里插入图片描述
在这里插入图片描述
3 如果安装有报错,安装visual Studio 2022

5、安装CUDNN

说明:NVIDIA cuDNN是用于深度神经网络的GPU加速库
1 下载地址:https://developer.nvidia.com/rdp/cudnn-archive(需要注册账号,可能由于网络原因失败)
在这里插入图片描述
2解压
在这里插入图片描述

3 复制到cuda的安装目录,替换即可
在这里插入图片描述

6、测试安装

试试CUDA环境是否成功
nvcc -V
在这里插入图片描述
需要下载链接:

链接:https://pan.baidu.com/s/1-NmXmYuJ6kSSMZEp9MIbGQ?pwd=w6km
提取码:w6km
在这里插入图片描述

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小蓝xlanll/article/detail/711239
推荐阅读
相关标签
  

闽ICP备14008679号