赞
踩
安装:是不可以选择安装路径,系统自动运行,不启动模型不占用GPU
参数设置:windows添加环境变量(需要重启ollama)
修改模型位置:添加 OLLAMA_MODELS D:\LLM\OllamaModels
修改为IP访问:添加OLLAMA_HOST 0.0.0.0:11434
修改跨域访问: OLLAMA_ORIGINS 设置 * ,否则访问会出现403
修改GPU释放:OLLAMA_KEEP_ALIVE 2m,默认是5m,降低GPU占用
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。