当前位置:   article > 正文

Ollama安装和实例部署(Linux版本)_ollama linux安装

ollama linux安装

下载 Ollama

Ollama的官网地址

在 Linux 上安装 - Ollama中文网

Ollame的官网介绍

1、ollama安装或者更新

自动安装或者更新

  1. #Linux
  2. curl -fsSL https://ollama.com/install.sh | sh

这块我们可以直接下载,他是默认下载最新版本的。你也可以手动安装

手动安装

  1. 将其下载到您的 PATH 中的目录
  2. sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/bin/ollama
  3. sudo chmod +x /usr/bin/ollama
  4. 为 Ollama 创建一个用户
  5. sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama
  6. 在 /etc/systemd/system/ollama.service 中创建一个服务文件:
  7. [Unit]
  8. Description=Ollama Service
  9. After=network-online.target
  10. [Service]
  11. ExecStart=/usr/bin/ollama serve
  12. User=ollama
  13. Group=ollama
  14. Restart=always
  15. RestartSec=3
  16. [Install]
  17. WantedBy=default.target
  18. 然后启动服务:
  19. sudo systemctl daemon-reload
  20. sudo systemctl enable ollama

2、ollama常用指令

  1. #使用感觉和docker类似,输出ollama就会有提示
  2. ollama serve #启动ollama
  3. ollama create #从模型文件创建模型
  4. ollama show #显示模型信息
  5. ollama run #运行模型
  6. ollama pull #从注册表中拉取模型
  7. ollama push #将模型推送到注册表
  8. ollama list #列出模型
  9. ollama cp #复制模型
  10. ollama rm #删除模型
  11. ollama help #获取有关任何命令的帮助信息

3、卸载

  1. 移除 ollama 服务:
  2. sudo systemctl stop ollama
  3. sudo systemctl disable ollama
  4. sudo rm /etc/systemd/system/ollama.service

4、使用实例:举例 Llama3使用示例

  1. #下载模型
  2. ollama pull llama3
  3. #下载成功查看模型
  4. ollama list
  5. #运行模型
  6. ollama run llama3

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/IT小白/article/detail/1020173
推荐阅读
相关标签
  

闽ICP备14008679号