赞
踩
ollama run qwen2:1.5b-instruct-q5_K_M
- root@b94b2e595740:/# ollama run qwen2:1.5b-instruct-q5_K_M
- pulling manifest
- pulling 9d9344b43f5a... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 1.1 GB
- pulling 62fbfd9ed093... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 182 B
- pulling c156170b718e... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 11 KB
- pulling f02dd72bb242... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 59 B
- pulling 624b547e1c39... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 487 B
- verifying sha256 digest
- writing manifest
- removing any unused layers
- success
- Error: llama runner process has terminated: signal: aborted (core dumped)
- root@b94b2e595740:/# ollama run qwen2:1.5b-instruct-q5_K_M
- Error: llama runner process has terminated: signal: aborted (core dumped)
在网上查找资料,该种情况的原因是:qwen2的这些模型,在使用llama.cpp/convert-hf-to-gguf.py 做格式转换时,使用的较高版本的llama.cpp库,而我们使用的版本偏低,导致不兼容。
查看了一下,我的ollama版本:
- root@b94b2e595740:/# ollama --version
- ollama version is 0.1.38
进入到ollama官网,选择重新下载安装即可。
curl -fsSL https://ollama.com/install.sh | sh
Download Ollama on LinuxGet up and running with large language models.https://ollama.com/download/linux升级后,版本:ollama version is 0.1.42
再次运行成功!
- [root@master ~]# ollama run qwen2:1.5b-instruct-q5_K_M
- pulling manifest
- pulling 9d9344b43f5a... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 1.1 GB
- pulling 62fbfd9ed093... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 182 B
- pulling c156170b718e... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 11 KB
- pulling f02dd72bb242... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 59 B
- pulling 624b547e1c39... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 487 B
- verifying sha256 digest
- writing manifest
- removing any unused layers
- success
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。