当前位置:   article > 正文

ollama Windows部署

ollama windows部署

ollama Windows部署

前言

为了部署本地大模型并建立专属知识库,可以使用ollama快速部署本地大模型服务。

原文博客地址:ollama Windows部署-旅程blog (cxy.red)

1. 下载ollama

官方下载地址:https://ollama.com/download

2. 环境配置

  1. 双击安装包会默认安装在C盘

    image

  2. 配置模型保存位置

    1. image

    2. OLLAMA_HOST : ollama的监听端口,监听在本机所有地址,方便其它前端服务跨主机访问。

      OLLAMA_MODELS : 指定ollama模型的存放路径

      根据自己的需要配置一下环境变量,之后最好新开一个命令行窗口 ,或者重启一下主机,这样环境变量才会生效。

      image

3. 测试

3.1 网路配置检测

终端输入ipconfig​:查看IP地址

image

然后打开浏览器测试输入:ip地址:11434

image

出现ollama is running,表示配置成功

3.2 模型测试

image

参考文献

  1. Ollama on Windows:本地运行大型语言模型(LLM)的新利器 - 系统极客 (sysgeek.cn)

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/你好赵伟/article/detail/584609
推荐阅读
相关标签
  

闽ICP备14008679号