当前位置:   article > 正文

清华ChatGLM2-6B一键式部署,无需自行安装依赖环境!!_chatglm2-6b下载

chatglm2-6b下载

直接上链接!
模型代码、模型参数、conda虚拟环境包全部已上传百度网盘
链接:https://pan.baidu.com/s/1IXN9Vfa4AQ2uB8zuaefC6Q?pwd=ntk4
提取码:ntk4

小白式部署,事先已经做好并上传了ChatGLM2-6B模型框架和模型参数的整合文件,且为int4量化版本,支持6GB显存电脑使用;同时,支持ChatGLM2-6B推理运行的环境也全部打包上传了,解压缩到自己的conda的envs文件夹下即可用!此外上传了CUDA、CuDNN安装包,甚至包括Anaconda2的安装包(个人感觉版本越老越好用,主要是网上教程多)

电脑配置需求说明
需要电脑具备6GB及以上的显存,可通过Ctrl+Shift+Esc通过“任务管理器-进程”查看
需要电脑具备Nvidia显卡驱动程序(一般有显卡的电脑都具备)

文件说明
【1】ChatGLM2-6B-main文件夹:为ChatCLM2-6B的模型代码,并且已在其中部署好int4量化模型的参数,使用时对demo文件中的路径信息,依照本地路径进行修改就行
Github模型代码下载地址:https://github.com/THUDM/ChatGLM2-6B
HuggingFace模型权重下载地址:https://huggingface.co/THUDM/chatglm2-6b

【2】chatglm2压缩包:为完整的conda虚拟环境,里边已经装好了所有的依赖包,直接解压,迁移到自己电脑的conda的envs文件夹下即部署好环境
该虚拟环境已经将ChatGLM2-6B推理需要的所有的依赖包都囊括其中!(相信有相关经历的人都知道依赖包的下载是玄学,有的时候一下就宕下来,有的时候一天都下不来,还有网速、版本等各种问题)

【3】CUDA安装包:11.7版本的安装包,其它版本下载可从官网:https://developer.nvidia.com/cuda-toolkit-archive

【4】CuDNN压缩包:支持CUDA11.X的深度学习计算包,其它版本下载可从官网:https://developer.nvidia.com/rdp/cudnn-archive(要注册,注册之后才能下载)

【5】Anaconda安装包:为2版本,其它版本的下载可从清华镜像源下载:https://mirrors.tuna.tsinghua.edu.cn/#
其.condarc文件配置镜像源可参考链接:参考链接:https://zhuanlan.zhihu.com/p/351348108

注意:虚拟环境里的torch是2.0.1+cu117版本,要求电脑上已经安装了对应的CUDA和CuDNN,不过11.7以下CUDA版本也支持(如CUDA11.4)

在这里插入图片描述

附安装torch2.0.1+cu117指令:pip install torch2.0.1+cu117 torchvision torchaudio -f https://download.pytorch.org/whl/torch_stable.html -i https://pypi.tuna.tsinghua.edu.cn/simple

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/繁依Fanyi0/article/detail/179565
推荐阅读
  

闽ICP备14008679号