Linux平台利用Ollama和Open WebUI部署大模型_open webui 如何添加模型_docker pull open-webui

docker pull ollama/ollama

 这将从 Docker Hub 上下载 Ollama 的最新版本。
3. **运行 Ollama 容器**：

 运行以下命令来启动 Ollama 容器：

 
1
2
3
4
5
6

docker run -d --restart=always -v /home/docker/ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

 这将在后台运行一个名为 “ollama” 的容器，并将 `/home/docker/ollama` 目录挂载到容器内的 `/root/.ollama` 目录，同时将容器内的端口 11434 映射到宿主机的端口 11434。
4. **访问 Ollama Web 界面**：

 打开您的浏览器，并访问 `http://localhost:11434`（如果您的 Docker 守护进程运行在远程主机上，则将 `localhost` 替换为相应的 IP 地址）。您将会看到 Ollama 的 Web 界面，通过它您可以开始构建、训练和部署深度学习模型。


通过按照以上步骤，您将能够在您的系统上成功安装和运行 Ollama。请注意，确保您的系统满足 Docker 的要求，并且具有足够的存储空间来存储 Ollama 容器中的数据。


## 二、Open WebUI 安装


要使用 Docker 安装 Open-webui，您可以创建一个 Docker 容器，并在其中运行 Open-webui 服务。以下是安装 Open-webui 的步骤：


1. **拉取 Open WebUI 镜像**：

 首先，您需要从 Docker Hub 上拉取 Open WebUI的镜像。在终端或命令提示符中运行以下命令：

 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

docker pull openwebui/open-webui

2. **运行 Open WebUI 容器**：

 使用以下命令在容器中运行 Open WebUI 服务：

 
1
2
3
4
5

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

 这将在后台运行一个名为 “open-webui” 的容器，并将容器内的端口 3000 映射到宿主机的端口 3000。
3. **访问 Open WebUI**：

 打开您的浏览器，并访问 `http://localhost:3000`。您应该会看到 Open WebUI的用户界面，通过它您可以与 Ollama 平台进行交互，管理模型和监控训练过程。




---


## 三、配置及使用


* 下载模型  
 进入到 Open WebUI 页面点击设置，在设置里面点击模型，输入我们需要下载的模型并点击下载，等下载完成之后我们就可以使用了。  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/b2c9cb98d9274f02a7d55517d8c1bd92.png)  
 以下是目前支持的大模型  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/e3f95b6299fa423b98932b67188dc19a.png)
* 使用  
 选择希望使用的模型，就可以无限的畅玩啦  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/direct/5c747a0c99fc46b1b1336ef305021fcb.png)


## 总结


本文介绍了使用 Docker 安装 Ollama 平台和 Open-webui 工具的方法。Ollama 提供深度学习模型部署环境，而 Open-webui 则提供直观的 Web 用户界面来与 Ollama 平台进行交互。通过简单的步骤，用户可以快速部署和使用这些工具，加速深度学习模型的开发和部署过程。


**自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。**

**深知大多数Linux运维工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！**

**因此收集整理了一份《2024年Linux运维全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。**
![img](https://img-blog.csdnimg.cn/img_convert/12e2e7f0512b1078a6e8fd6ab8c35ea7.png)
![img](https://img-blog.csdnimg.cn/img_convert/eeffb3cf1f03a20376b42230563a58f0.png)
![img](https://img-blog.csdnimg.cn/img_convert/606319d27379e161b4c986f01eef5dee.png)
![img](https://img-blog.csdnimg.cn/img_convert/55e2b47f904bad5888a746c739b78dc9.png)
![img](https://img-blog.csdnimg.cn/img_convert/012497671ccfd6c97332ee0d3ed80d63.png)

**既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Linux运维知识点，真正体系化！**

**由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新**

**如果你觉得这些内容对你有帮助，可以添加VX：vip1024b （备注Linux运维获取）**
![img](https://img-blog.csdnimg.cn/img_convert/3e397d57f3f31973945f3592b60f4983.jpeg)



[**一个人可以走的很快，但一群人才能走的更远。如果你从事以下工作或对以下感兴趣，欢迎戳这里加入程序员的圈子，让我们一起学习成长！**](https://bbs.csdn.net/forums/4304bb5a486d4c3ab8389e65ecb71ac0)

**AI人工智能、Android移动开发、AIGC大模型、C C#、Go语言、Java、Linux运维、云计算、MySQL、PMP、网络安全、Python爬虫、UE5、UI设计、Unity3D、Web前端开发、产品经理、车载开发、大数据、鸿蒙、计算机网络、嵌入式物联网、软件测试、数据结构与算法、音视频开发、Flutter、IOS开发、PHP开发、.NET、安卓逆向、云计算**

ty3D、Web前端开发、产品经理、车载开发、大数据、鸿蒙、计算机网络、嵌入式物联网、软件测试、数据结构与算法、音视频开发、Flutter、IOS开发、PHP开发、.NET、安卓逆向、云计算**

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56