ChatGLM2-6B从本地加载模型报错-解决办法

报错

OSError: /chatglm2-6b does not appear to have a file named config.json. Checkout 'https://huggingface.co/chatglm2-6b/None' for available files.

解决方法有两，推荐第二个方法（几乎解决所有模型下载问题）：

一

1.在官方下载模型到本地：

清华大学云盘https://cloud.tsinghua.edu.cn/d/674208019e314311ab5c/2.执行以下代码  

GIT_LFS_SKIP_SMUDGE=1 git clone https://huggingface.co/THUDM/chatglm2-6b

上面代码可能什么都下载不了

试试下面这个，把地址换为镜像地址：

GIT_LFS_SKIP_SMUDGE=1 git clone https://hf-mirror.com/THUDM/chatglm2-6b 

会在当前文件中创建一个 chatglm2-6b 文件夹：

3.将下载的内容替换chatglm2-6b中的内容。

4加载

model_path = '/chatglm2-6b' #chatglm2-6b文件夹地址
 
tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)
model = AutoModel.from_pretrained(model_path, trust_remote_code=True).cuda()

方法二：

使用modelscope下载模型

或者部署huggingface镜像网作为默认下载地址，具体方法写在下面了：

CSDN

需要模型api部署调用，可用翻翻，之前写过一篇 。