这个屌丝很懒，什么也没留下！

1panel面板使用GPU启动ollama_1panel ollama gpu

作者：笔触狂放9 | 2024-07-11 16:41:52

1panel ollama gpu

使用1panel安装ollama,启动模型默认在CPU上跑，模型稍大，速度就很慢，以下是解决办法：

1、暂停ollama容器

2、删除ollama镜像

5、已GPU运行ollama得docker命令

其中/opt/1panel/apps/ollama为自己得安装路径

docker run --gpus all -d -v /opt/1panel/apps/ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

6、运行模型查看是否在GPU运行

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/笔触狂放9/article/detail/810901