当前位置:   article > 正文

Windows本地部署ChatGLM3-6B模型_chatglm3-6b 下载

chatglm3-6b 下载

        往期已经进行过ChatGLM3的部署了,感兴趣的可以搜索往期的博客,我们今天主要使用github项目工程提供的demo进行玩耍,ok开始。

环境配置

       1. github网址,进入网址出现下图,下载代码压缩包

        2. 本地解码代码压缩包,并安装依赖环境

        pip install -r requirements.txt

        3. 下载模型文件,官方提供三种下载方式,下载巨慢、巨慢、巨慢(重要的事情说三遍)!

  1. 使用 Huggingface 下载模型
  2. git lfs install
  3. git clone https://huggingface.co/THUDM/chatglm3-6b.git
  4. 使用 Modelscope 下载模型
  5. git lfs install
  6. git clone https://www.modelscope.cn/ZhipuAI/chatglm3-6b.git
  7. 使用 SwanHub 下载模型
  8. git lfs install
  9. git clone https://swanhub.co/ZhipuAI/chatglm3-6b.git

运行demo

        如果一切安装下载正常,我们就可以开始玩耍了,首先玩的方式有三种,分别是:命令行模式、Gradio模式、Streamlit模式。

        1. 命令行模式(cd 进入 basic_demo并打开命令行运行如下语句)

    python cli_demo.py

        效果如下:

        2. Gradio模式(cd 进入 basic_demo并打开命令行运行如下语句)

    python web_demo_gradio.py

        效果如下(怎么还跑抽风了。。。):

        3. Streamlit模式,比较推荐这个模式,运行起来比较流畅

    streamlit run web_demo_streamlit.py

        效果如下:

结尾

有关于其他的部署细节可以进群问哦
如果觉得文章对你有用请点赞、关注  ->> 你的点赞对我太有用了
群内交流更多技术
130856474  <--  在这里

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/凡人多烦事01/article/detail/254619?site
推荐阅读
相关标签
  

闽ICP备14008679号