Linux平台利用Ollama和Open WebUI部署大模型_open webui 如何添加模型_open-webui 没有模型

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以点击这里获取！

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

Ollama 是一个功能强大的开源平台，专门用于部署深度学习模型。

与此同时，Open WebUI 是一个开源的 Web 用户界面工具，为用户提供了友好的界面来与 Ollama 平台进行交互。通过 Open WebUI，用户可以直观地浏览模型的性能指标、调整模型参数，并进行部署和监控。

本文将介绍如何利用 Ollama 和 Open WebUI 在 Linux 平台上部署大型深度学习模型。通过简单的步骤，您将能够快速搭建起一个高效的模型部署环境

---

一、Ollama 安装

Ollama 的安装步骤如下：

1. 安装 Docker：

首先，确保您的系统已经安装了 Docker。您可以按照 Docker 官方文档提供的指南来安装 Docker：https://docs.docker.com/get-docker/
2. 拉取 Ollama 镜像：

打开终端或命令提示符，运行以下命令来拉取 Ollama 镜像：

docker pull ollama/ollama

1
2

这将从 Docker Hub 上下载 Ollama 的最新版本。
3. 运行 Ollama 容器：

运行以下命令来启动 Ollama 容器：

docker run -d --restart=always -v /home/docker/ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

1
2

这将在后台运行一个名为 “ollama” 的容器，并将 /home/docker/ollama 目录挂载到容器内的 /root/.ollama 目录，同时将容器内的端口 11434 映射到宿主机的端口 11434。
4. 访问 Ollama Web 界面：

打开您的浏览器，并访问 http://localhost:11434（如果您的 Docker 守护进程运行在远程主机上，则将 localhost 替换为相应的 IP 地址）。您将会看到 Ollama 的 Web 界面，通过它您可以开始构建、训练和部署深度学习模型。

通过按照以上步骤，您将能够在您的系统上成功安装和运行 Ollama。请注意，确保您的系统满足 Docker 的要求，并且具有足够的存储空间来存储 Ollama 容器中的数据。

二、Open WebUI 安装

要使用 Docker 安装 Open-webui，您可以创建一个 Docker 容器，并在其中运行 Open-webui 服务。以下是安装 Open-webui 的步骤：

1. 拉取 Open WebUI 镜像：

首先，您需要从 Docker Hub 上拉取 Open WebUI的镜像。在终端或命令提示符中运行以下命令：

docker pull openwebui/open-webui

1
2

2. 运行 Open WebUI 容器：

使用以下命令在容器中运行 Open WebUI 服务：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

1
2

这将在后台运行一个名为 “open-webui” 的容器，并将容器内的端口 3000 映射到宿主机的端口 3000。
3. 访问 Open WebUI：

打开您的浏览器，并访问 http://localhost:3000。您应该会看到 Open WebUI的用户界面，通过它您可以与 Ollama 平台进行交互，管理模型和监控训练过程。

---

三、配置及使用

• 下载模型
  进入到 Open WebUI 页面点击设置，在设置里面点击模型，输入我们需要下载的模型并点击下载，等下载完成之后我们就可以使用了。
  
  以下是目前支持的大模型
  
• 使用
  选择希望使用的模型，就可以无限的畅玩啦
  

总结

本文介绍了使用 Docker 安装 Ollama 平台和 Open-webui 工具的方法。Ollama 提供深度学习模型部署环境，而 Open-webui 则提供直观的 Web 用户界面来与 Ollama 平台进行交互。通过简单的步骤，用户可以快速部署和使用这些工具，加速深度学习模型的开发和部署过程。

为了做好运维面试路上的助攻手，特整理了上百道 【运维技术栈面试题集锦】 ，让你面试不慌心不跳，高薪offer怀里抱！

这次整理的面试题，小到shell、MySQL，大到K8s等云原生技术栈，不仅适合运维新人入行面试需要，还适用于想提升进阶跳槽加薪的运维朋友。

本份面试集锦涵盖了

• 174 道运维工程师面试题
• 128道k8s面试题
• 108道shell脚本面试题
• 200道Linux面试题
• 51道docker面试题
• 35道Jenkis面试题
• 78道MongoDB面试题
• 17道ansible面试题
• 60道dubbo面试题
• 53道kafka面试
• 18道mysql面试题
• 40道nginx面试题
• 77道redis面试题
• 28道zookeeper

总计 1000+ 道面试题， 内容 又全含金量又高

• 174道运维工程师面试题

1、什么是运维?

2、在工作中，运维人员经常需要跟运营人员打交道，请问运营人员是做什么工作的?

3、现在给你三百台服务器，你怎么对他们进行管理?

4、简述raid0 raid1raid5二种工作模式的工作原理及特点

5、LVS、Nginx、HAproxy有什么区别?工作中你怎么选择?

6、Squid、Varinsh和Nginx有什么区别，工作中你怎么选择?

7、Tomcat和Resin有什么区别，工作中你怎么选择?

8、什么是中间件?什么是jdk?

9、讲述一下Tomcat8005、8009、8080三个端口的含义？

10、什么叫CDN?

11、什么叫网站灰度发布?

12、简述DNS进行域名解析的过程?

13、RabbitMQ是什么东西?

14、讲一下Keepalived的工作原理?

15、讲述一下LVS三种模式的工作过程?

16、mysql的innodb如何定位锁问题，mysql如何减少主从复制延迟?

17、如何重置mysql root密码?

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化的资料的朋友，可以点击这里获取！

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

需要这份系统化的资料的朋友，可以点击这里获取！

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！