【零基础/纯小白】在阿里云上部署ChatGLM3-6B_阿里云部署chatglm

【零基础/纯小白】在阿里云上部署ChatGLM3-6B

阿里云白嫖：https://blog.csdn.net/Zheng113/article/details/135350821?ops_request_misc=&request_id=&biz_id=102&utm_term=%E9%98%BF%E9%87%8C%E4%BA%91%E6%9C%8D%E5%8A%A1%E5%99%A8%E7%99%BD%E5%AB%96&utm_medium=distribute.pc_search_result.none-task-blog-2_allsobaiduweb~default-0-135350821.142^v100pc_search_result_base1&spm=1018.2226.3001.4187

部署步骤可分为：
（1）环境搭建。
（2）下载模型（可本地下载之后，上传至服务器上）。
（3）运行。

**

1.环境搭建

**
（1）创建实例并地域及GPU资源。

选择镜像（最新的即可），然后点击创建。

（2）打开创建好的实例，默认的界面如下，点击控制台进行模型下载。

2.模型下载

（1）更新一下apt-get。apt-get，是一条linux命令，适用于deb包管理式的操作系统，主要用于自动从互联网的软件仓库中搜索、安装、升级、卸载软件或操作系统。

apt-get update
1

（2）git-lfs 是 Git Large File Storage 的缩写，是 Git 的一个扩展，用于处理大文件的版本控制。

apt-get install git-lfs
1

（3）安装 Git LFS 扩展。运行此命令后，Git LFS 将被激活并配置为在你的仓库中跟踪大文件。
如果报错，执行git init初始化一下，再执行代码。

git lfs install
1

（4）下载chatglm3，复制该文件的地址，并执行以下代码：

git clone https://github.com/THUDM/ChatGLM3.git
1

点击Notebook，即可发现已经下载好了chatglm3。

（4）进入该文件夹下。

cd ChatGLM3
1

安装运行的依赖。

pip install -r requirements.txt
1

（5）安装完依赖之后，去魔塔下载模型文件。

git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git
1

安装完成之后，可以发现多出了该文件夹，即为模型文件。

**

3.修改变量路径并启动运行demo

**
有2个文件需要修改变量路径，一个是basic_demo下的“cli_demo.py”，另一个是chatgm3-6b下的“config.json”，都是把默认的“THUDM/”修改为“/mnt/workspace/ChatGLM3/”
这里的修改，可以使用vim，也可以直接左边栏双击（json文件需要右键——>编辑）打开文件修改（推荐）


basic_demo下的cli_demo.py

启动模型

python /mnt/workspace/ChatGLM3/basic_demo/cli_demo.py
1

这样就完成了模型的启动。

参考视频：
https://www.bilibili.com/video/BV1K14y1m7Hu/?spm_id_from=333.999.0.0&vd_source=2c298ebf9ada5a24a4355bbd2d725933
参考博客：https://blog.csdn.net/weixin_42029733/article/details/134324291?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522171454510316800184181117%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fall.%2522%257D&request_id=171454510316800184181117&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2_allfirst_rank_ecpm_v1~rank_v31_ecpm-1-134324291-null-null.142^v100pc_search_result_base1&utm_term=%E9%98%BF%E9%87%8C%E4%BA%91%E9%83%A8%E7%BD%B2GLM3&spm=1018.2226.3001.4187