chatGLM2整体部署流程_chatglm2 部署

1. 下载代码

    提示：git clone https://github.com/THUDM/ChatGLM2-6B

    有时候存在连不到github的情况，因此，直接下载代码，上传到服务器去解压。

2. 下载模型
    ① 首次运行程序，程序会自动从huggingface拉取，放入缓存文件夹中
    ② 同代码一样，先从网上下载再传到服务器。

3. 建立conda的虚拟环境
    conda create -n chatGLM2 python=3.10
    conda activate chatGLM2

4. 安装环境依赖
    进入到代码目录中，目录中有requirements.txt
    pip install -r requirements.txt

5. 把最开始下载模型的传到服务器，放到chatglm-6b文件夹下

6. 在服务器上部署网页版glm26b

    执行：streamlit run web_demo2.py --server.port 7799
    如需指定cpu：CUDA_VISIBLE_DEVICES=1 streamlit run web_demo2.py --server.port 7799

7. 接着就可以在你的服务器地址+端口号上打开对应的网页。