赞
踩
为了部署本地大模型并建立专属知识库,可以使用ollama快速部署本地大模型服务。
原文博客地址:ollama Windows部署-旅程blog (cxy.red)
官方下载地址:https://ollama.com/download
双击安装包会默认安装在C盘
配置模型保存位置
OLLAMA_HOST : ollama的监听端口,监听在本机所有地址,方便其它前端服务跨主机访问。
OLLAMA_MODELS : 指定ollama模型的存放路径
根据自己的需要配置一下环境变量,之后最好新开一个命令行窗口 ,或者重启一下主机,这样环境变量才会生效。
终端输入ipconfig:查看IP地址
然后打开浏览器测试输入:ip地址:11434
出现ollama is running,表示配置成功
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。