当前位置:   article > 正文

基于Ollama+MaxKB快速搭建企业级RAG系统_linux 安装maxkb

linux 安装maxkb

一、环境准备

Docker20以上,Docker的安装参考【云计算】Ubuntu多种安装docker方式_ubuntu安装docker-CSDN博客

二、Ollama的安装部署

首先拉取ollama的docker镜像:

docker pull ollama/ollama:0.1.32

然后启动ollama的服务,注意容器内ollama的服务是在11434端口,然后我们通过-p将ollma的服务映射到宿主机的11434端口:

docker run -d --network host -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama:0.1.32

三、MaxKB的安装部署

拉取maxkb的docker镜像:

docker pull 1panel/maxkb

启动maxkb的服务:

docker run -d --name=maxkb -p 8080:8080 -v /Users/lishihao/linkpath/maxkb/.maxkb:/var/lib/postgresql/data 1panel/maxkb

通过浏览器访问maxkb的网页,ip即为maxkb和ollama提供服务的机器ip,端口为8080:

初次登录的用户名为admin,密码为MaxKB@123..

四、下载大模型

  • 依次点击系统设置->模型设置->Ollama->添加模型
  • 模型名称填写自定义的名称即可
  • 模型类型选择 大语言模型
  • 基础模型不能随意填写,只能使用ollma模型库中已有的模型类型:https://ollama.com/library,这里我们用的是llama3:8b
  • API域名填写前面ollama起服务的机器ip和端口(11434)
  • API Key随便填

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/笔触狂放9/article/detail/682593
推荐阅读
相关标签
  

闽ICP备14008679号