当前位置:   article > 正文

大模型技术ollama入门教程_ollama gpu启动

ollama gpu启动

下载

下载:https://ollama.com/download

我下载的是Windows版本:
在这里插入图片描述

Docker启动

使用Docker启动要更简单点。
拉取镜像:

docker pull ollama/ollama
  • 1

使用CPU启动:

docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
  • 1

使用GPU启动:

docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
  • 1

运行模型

docker exec -it ollama ollama run llama2
  • 1
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小丑西瓜9/article/detail/548061
推荐阅读
相关标签
  

闽ICP备14008679号