当前位置:   article > 正文

Ollama在windows上的设置_win怎么让ollama跑gpu

win怎么让ollama跑gpu

下载 Download Ollama on macOS

安装:是不可以选择安装路径,系统自动运行,不启动模型不占用GPU

参数设置:windows添加环境变量(需要重启ollama)

修改模型位置:添加 OLLAMA_MODELS D:\LLM\OllamaModels

修改为IP访问:添加OLLAMA_HOST 0.0.0.0:11434

修改跨域访问: OLLAMA_ORIGINS 设置 * ,否则访问会出现403

修改GPU释放:OLLAMA_KEEP_ALIVE 2m,默认是5m,降低GPU占用

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/寸_铁/article/detail/923349
推荐阅读
相关标签
  

闽ICP备14008679号