当前位置:   article > 正文

huggingface无法下载模型的问题解决_huggingface不自动下载模型了

huggingface不自动下载模型了

在实践OpenDevin的时候,里面的embedding模型需要从huggingface下载,但是连不上,怎么办呢?实践文档:OpenDevin:人人可用的开源AI软件工程师-CSDN博客

以前碰到连不上,就放弃了,所以很长时间没有用过huggingface。这回OpenDevin这个软件太牛了,激励着我把这个这个问题解决。

从网上搜索到的解决方案是,在代码里加上这两句:

import os

os.environ ['HF_ENDPOINT'] = 'https://hf-mirror.com'

试了一下,没有成功。其实后来是发现代码里面这个变量又被重新赋值了,应该在赋值之后写入。而且用的变量名也不对。

尝试了修改源码的方式:

通过报错信息,找到huggingface下载模型的的文件,比如

py311/lib/python3.11/site-packages/transformers/utils/hub.py,然后修改网址:

  1. S3_BUCKET_PREFIX = "https://s3.amazonaws.com/models.huggingface.co/bert"
  2. # CLOUDFRONT_DISTRIB_PREFIX = "https://cdn.huggingface.co"
  3. CLOUDFRONT_DISTRIB_PREFIX = "https://hf-mirror.com"
  4. _staging_mode = os.environ.get("HUGGINGFACE_CO_STAGING", "NO").upper() in ENV_VARS_TRUE_VALUES
  5. # _default_endpoint = "https://hub-ci.huggingface.co" if _staging_mode else "https://huggingface.co"
  6. _default_endpoint = "https://hub-ci.huggingface.co" if _staging_mode else "https://hf-mirror.com"

感觉离胜利很近了,但是还没有成功,还是使用的原来的下载网址。不明白为什么加速网址的设置没有生效。

最后是使用了设置环境变量的方法,使用export环境变量,乌拉,成功拉!

export HF_ENDPOINT=https://hf-mirror.com

理论上只要设置这个环境变量,不需要再进去改源代码了。

如果是windows下,使用如下命令:

set HF_ENDPOINT=https://hf-mirror.com

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/我家小花儿/article/detail/638386
推荐阅读
相关标签
  

闽ICP备14008679号