Windows10/11部署llama及webUi使用_win10部署rag ollama opnwebui

作者：知新_RL | 2024-07-22 20:33:29

踩

win10部署rag ollama opnwebui

前言

整体是希望在windows下安装llama3:8b 以及 gemma:7b两个大模型，并使用open/ollama-webui来访问

从目标出发，llama3和gemma都属于开源大模型，可以自行编译，但是那个步骤对于初步探索的人来说要求太高了，暂时不考虑这条路。因此以先用起来的目的作为导向，强烈推荐直接使用官方推荐的ollama来直接安装。
open/ollama-webui，现在叫open-webui，之前叫ollama-webui，都一样，不是很重要，同样可以自行编译，和上面一样，自行编译很麻烦，官方提供了直接在docker内的快速安装方法。

总结来说：

通过ollama来快速安装llama3:8b以及gemma:7b两个大模型，ollama直接支持windows版本的安装程序
通过docker快速安装open/ollama-webui，docker官方也提供了windows版本安装程序

下载链接：【可能需要科学上网】

路径概述

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/知新_RL/article/detail/866699