当前位置:   article > 正文

Docker Desktop + Open WebUI + Ollama_>docker run -d -p 3000:8080 --add-host.docker.inte

>docker run -d -p 3000:8080 --add-host.docker.internal:host-gateway -v

Docker部署OpenWebUI 

agithub-open-webui 打开网址进入Open WebUI在github的主页:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

  • 这是一个 docker run 命令,用于启动一个新的 Docker 容器,下面是这个命令各个部分的解释:
  • docker run:这是 Docker 的命令,用于从指定的镜像启动一个新的容器;
  • -d:表示在“分离”模式下运行容器,即后台运行;
  • -p 3000:8080:端口映射,表示将宿主机的3000端口映射到容器的8080端口,当你访问宿主机的3000端口时,实际上会访问容器内的8080端口;
  • --add-host=host.docker.internal:host-gateway:这个选项向容器的 /etc/hosts 文件中添加一条记录,这通常用于让容器能够解析到宿主机的名称,并且将其 IP 地址设置为宿主机的网关地址,这在某些网络配置中很有用,尤其是当容器需要知道宿主机的地址时;
  • -v D:\dev\open-webui:/app/backend/data:卷挂载,这表示将宿主机的 D:\dev\open-webui 目录挂载到容器内的 /app/backend/data 目录,这样,容器和宿主机之间可以共享这个目录中的数据;
  • --name open-webui:为容器指定一个名称,这里是 open-webui;
  • --restart always:这个选项告诉 Docker 在容器退出时总是自动重启它,无论容器是因为何种原因退出,它都会自动重启;
  • ghcr.io/open-webui/open-webui:main:这是你要运行的 Docker 镜像的完整名称,ghcr.io 是 GitHub Container Registry 的地址,open-webui/open-webui 是镜像的仓库和名称,main是标签,通常表示该镜像的最新或主分支版本;

复制之后在命令行执行,下载镜像过程中不要点击窗口,可能会停止。

安装过程比较漫长,有三个多G,耐心等待。

以上表示安装完成,并且启动了容器,接下来我们可以命令查看,也可以图形化界面(Docker Desktop)查看:

拉取的open-webui镜像:

通过以上镜像启动的容器,映射端口是3000,我们可以通过该端口来访问open-webui

在浏览器地址栏输入:http://localhost:3000

安装Ollama

官网下载安装包

查看之后发现已经在后台启动:

ollama监听的端口是11434

通过http://localhost:11434 可以查看到运行状态

在官网查询模型:

我们以qwen模型为例,选择一个体积较小的模型,空间时间充足的可以选择一个更有学问的模型

下载模型完成之后,可以提问了,这个模型比较弱,可以下载其他模型试试哦。

Open WebUI使用Ollama中的模型

查看Open WebUI,可以看到ollama中的模型:

Ollama模型下载路径修改

windows 的安装默认不支持修改程序安装目录,
默认安装后的目录:C:\Users\username\AppData\Local\Programs\Ollama
默认安装的模型目录:C:\Users\username\ .ollama
默认的配置文件目录:C:\Users\username\AppData\Local\Ollama

ollama默认下载模型的路径在C盘,最好修改一下,不然随便下载一下,C盘空间就很危险,当然没有分盘的就无所谓了。

可以将C:\Users\Lenovo\.ollama\models中的内容粘贴到D:\OllamaModels,这样,之前下载的模型就不需要再次下载。

修改完成之后,要重启下ollama,先从任务管理栏找到图标右键退出,再重新启动即可

修改Docker的wsl路径

原本在C:\Users\Lenovo\AppData\Local\Docker\wsl,占空间比较大,更换到其他路径,将C盘的内容复制过去。

更换完成之后Apple & restart,C盘之前的就可以删除了。

Ollama使用其他模型

下载gemma模型

在Open WebUI测试:

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/Li_阴宅/article/detail/774454
推荐阅读
相关标签
  

闽ICP备14008679号