当前位置:   article > 正文

pycharm通过hf mirror镜像访问huggingface模型(无需翻墙)_import os os.environ() hf-mirror

import os os.environ() hf-mirror

参考: huggingface下载模型的最正确方法

Huggingface镜像网站https://hf-mirror.com (感觉大佬们)

通过修改环境变量访问镜像网站加载模型

  1. import os
  2. os.environ['HF_ENDPOINT'] = 'https://hf-mirror.com'
'
运行

注意:修改环境变量一定要放到最上方!!!放到 import transformers前修改!!!

完整代码

  1. import os
  2. os.environ['HF_ENDPOINT'] = 'https://hf-mirror.com'
  3. from transformers import AutoTokenizer
  4. check_point = 'distilbert-base-uncased-finetuned-sst-2-english'
  5. tokenizer = AutoTokenizer.from_pretrained(check_point)
  6. inputs = [
  7. 'I‘m hunger',
  8. 'nice to meet you, lihua'
  9. ]
  10. input = tokenizer(inputs, padding=True, truncation=True, return_tensors='pt')
  11. print('input: ',input)

打印结果

  1. input: {'input_ids': tensor([[ 101, 1045, 1520, 1049, 9012, 102, 0, 0, 0],
  2. [ 101, 3835, 2000, 3113, 2017, 1010, 5622, 14691, 102]]), 'attention_mask': tensor([[1, 1, 1, 1, 1, 1, 0, 0, 0],
  3. [1, 1, 1, 1, 1, 1, 1, 1, 1]])}

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/我家小花儿/article/detail/952297
推荐阅读
相关标签
  

闽ICP备14008679号