当前位置:   article > 正文

ollama运行qwen2出错Error: llama runner process has terminated: signal: aborted (core dumped) ,已解决

error: llama runner process has terminated: signal: aborted (core dumped)
阿里巴巴通义千问qwen2系列模型库,已经在ollama上面同步,包括0.5,1.5,7B,72B及量化版本。
在ollama环境下,下载完开始运行1.5b时,报错了。 命令:
ollama run qwen2:1.5b-instruct-q5_K_M
出错信息:
  1. root@b94b2e595740:/# ollama run qwen2:1.5b-instruct-q5_K_M
  2. pulling manifest
  3. pulling 9d9344b43f5a... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 1.1 GB
  4. pulling 62fbfd9ed093... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 182 B
  5. pulling c156170b718e... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 11 KB
  6. pulling f02dd72bb242... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 59 B
  7. pulling 624b547e1c39... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 487 B
  8. verifying sha256 digest
  9. writing manifest
  10. removing any unused layers
  11. success
  12. Error: llama runner process has terminated: signal: aborted (core dumped)
  13. root@b94b2e595740:/# ollama run qwen2:1.5b-instruct-q5_K_M
  14. Error: llama runner process has terminated: signal: aborted (core dumped)

在网上查找资料,该种情况的原因是:qwen2的这些模型,在使用llama.cpp/convert-hf-to-gguf.py 做格式转换时,使用的较高版本的llama.cpp库,而我们使用的版本偏低,导致不兼容。

查看了一下,我的ollama版本:

  1. root@b94b2e595740:/# ollama --version
  2. ollama version is 0.1.38
解决办法:

进入到ollama官网,选择重新下载安装即可。

curl -fsSL https://ollama.com/install.sh | sh

Download Ollama on LinuxGet up and running with large language models.icon-default.png?t=N7T8https://ollama.com/download/linux升级后,版本:ollama version is 0.1.42

再次运行成功!

  1. [root@master ~]# ollama run qwen2:1.5b-instruct-q5_K_M
  2. pulling manifest
  3. pulling 9d9344b43f5a... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 1.1 GB
  4. pulling 62fbfd9ed093... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 182 B
  5. pulling c156170b718e... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 11 KB
  6. pulling f02dd72bb242... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 59 B
  7. pulling 624b547e1c39... 100% ▕████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████▏ 487 B
  8. verifying sha256 digest
  9. writing manifest
  10. removing any unused layers
  11. success

参考
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/黑客灵魂/article/detail/791132
推荐阅读
相关标签
  

闽ICP备14008679号