【ai】如何在ollama中随意使用hugging face上的gguf开源模型_ollama guff

作者：我家小花儿 | 2024-08-05 09:33:51

踩

ollama guff

【背景】

ollama的pull命令可以直接pull ollama列表中现有的模型，但是ollama可以直接pull的模型大都是英语偏好（llama2有直接可以pull的chinese版本），而hugging face上则有大量多语种训练的模型，如果能直接使用hugging face上的gguf开源模型，那就自由多了，本篇介绍方法。

【命令】

先找到hugging face上的guff模型下载下来，比如这个我已经下载好了：
在这里插入图片描述
然后写一个txt文件，内容如下：

进到txt文件同目录，用ollama命令生成ollama可直接使用的模型，同时可以给模型命名：

ollama create yourname-CH-model -f Modelfile.txt
1

声明：本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：【wpsshop博客】