当前位置:   article > 正文

ollama 模型国内加速下载,制作自定义Modelfile模型文件_ollama国内下载

ollama国内下载

参考:
https://www.zhihu.com/question/640579563/answer/3562899008
https://github.com/ollama/ollama/blob/main/docs/modelfile.md

gguf格式介绍:
https://www.datalearner.com/blog/1051705718835586

1、ollama 模型国内加速下载

ollama主要的模型文件格式是gguf,可以在modelscope或huggingface上下载

huggingface:

export HF_ENDPOINT=https://hf-mirror.com
huggingface-cli download --resume-download --local-dir-use-symlinks False bigscience/bloom-560m --local-dir bloom-560m  --cache-dir bloom-560m

  • 1
  • 2
  • 3

2、下载gguf模型加载使用

1)查看Modelfile格式
ollama show qwen:14b --modelfile
在这里插入图片描述
2)创建自己下载模型自定义的mf文件&#x

声明:本文内容由网友自发贡献,转载请注明出处:【wpsshop】
推荐阅读
相关标签
  

闽ICP备14008679号