当前位置:   article > 正文

基于开源MaxKB构建大语言模型的本地知识库系统

基于开源MaxKB构建大语言模型的本地知识库系统

基于开源MaxKB构建大语言模型的本地知识库系统

什么是MaxKB

MaxKB是一款基于LLM(Large Language Model)大语言模型的知识库问答系统。MaxKB的产品命名内涵为“Max Knowledge Base”,为用户提供强大的学习能力和问答响应速度,致力于成为企业的最强大脑。

开源:https://github.com/1Panel-dev/MaxKB

文档: https://maxkb.cn/docs/

image-20240813165916414

安装MaxKB

1.系统介绍

系统:ubuntu 22.04
docker:  Docker version 26.1.3, build b72abbb
IP: 192.168.1.23
  • 1
  • 2
  • 3

需要安装docker

2.基于Docker安装MaxKB

# mkdir -p /data/docker/maxkb
# docker run -itd --restart always --name=maxkb -p 8080:8080 -v /data/docker/maxkb:/var/lib/postgresql/data 1panel/maxkb
  • 1
  • 2

3.浏览器访问

IP+端口访问

输入默认的用户名和密码

# 用户名: admin
# 密码: MaxKB@123..
  • 1
  • 2

image-20240813170104093

使用MaxKB

如下图,进入后台之后有“应用”,“知识库”,“系统管理”三大主要功能。

image-20240813170223494

创建应用

image-20240813170349637

主要选择 AI模型,添加模型

image-20240813170438744

除了基于OpenAI、Ollama、百度千帆大模型等在线大模型快速搭建知识库问答系统,这里可以添加第三方的大模型。

image-20240813170515997

本地安装Olloma

MaxKB还支持与以Ollama为代表的本地私有大模型相结合,快速部署本地的知识库问答系统。

可以参考之前的:https://mp.weixin.qq.com/s/TVC_XKC1ZdVggNdas–Mhg

root@star-ai:~# ollama list
NAME                    ID              SIZE    MODIFIED     
llama3-cn:latest        8adc5a8a5c36    6.6 GB  11 days ago 
qwen:0.5b               b5dc5e784f2a    394 MB  2 months ago
llama2:latest           78e26419b446    3.8 GB  2 months ago
qwen:32b                26e7e8447f5d    18 GB   2 months ago
gemma:latest            a72c7f4d0a15    5.0 GB  2 months ago
phi3:latest             a2c89ceaed85    2.3 GB  2 months ago
llama3:latest           a6990ed6be41    4.7 GB  2 months ago
qwen:14b                80362ced6553    8.2 GB  2 months ago
qwen:latest             d53d04290064    2.3 GB  2 months ago
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11

配置本地的Olloma模型

后台,点击 Olloma再点击添加模型

image-20240813171224246

API 域名 填入本机的安装ollama

api key ,没有则可以随便填

image-20240813171105758

使用

点击演示会在新页面打开

嵌入第三方可以内嵌页

image-20240813172158489

演示:

image-20240813172217974

嵌入第三方

image-20240813172330983

MaxKB创建知识库

1.创建知识库

在MaxKB应用界面中,点击“知识库”菜单,选择创建知识库,填写相关信息后创建并导入知识库。在“知识库类型”选项中,离线文档选择“通用型”类型,在线文档选择“Web站点”类型。知识库创建界面如下:

image-20240813172601782

MaxKB支持用户使用文档列表查看导入的文本数据。系统会自动爬取根地址及子地址的文本数据,按照URL地址生成文档,并自动拆分和进行向量化处理。

image-20240813172702257

2.创建应用

关联知识库

image-20240813172951572

选择刚才的知识库

image-20240813173015557

在知识库中看到关键字“linux教程”

image-20240813174031496

在应用对话中“linux教程”

image-20240813173858197

结尾

MaxKB社区版的一些限制

知识库数量: 最多支持创建 50 个

应用数量:最多支持创建 5 个

用户管理:最多支持创建 2 个

把它用作网站或者APP的机器人客服也是不错的选择。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/Li_阴宅/article/detail/1008434
推荐阅读
相关标签
  

闽ICP备14008679号