MaxKB 结合 DeepSeek 实现基于 LLM 大语言模型的知识库问答系统_maxkb deepseek

一、MaxKB 介绍

MaxKB - 基于大语言模型的知识库问答系统MaxKB = Max Knowledge Base，是一款基于 LLM 大语言模型的开源知识库问答系统，旨在成为企业的最强大脑。具体优势如下：

• 开箱即用
  支持直接上传文档、自动爬取在线文档，支持文本自动拆分、向量化、RAG（检索增强生成），智能问答交互体验好；

• 无缝嵌入
  支持零编码快速嵌入到第三方业务系统，让已有系统快速拥有智能问答能力，提高用户满意度；

• 灵活编排
  内置强大的工作流引擎，支持编排 AI 工作流程，满足复杂业务场景下的需求；

• 模型中立
  支持对接各种大语言模型，包括本地私有大模型（Llama 3 / Qwen 2 等）、国内公共大模型（通义千问 / 智谱 AI / 百度千帆 / Kimi / DeepSeek 等）和国外公共大模型（OpenAI / Azure OpenAI / Gemini 等）。

具体功能可以参考官网：MaxKB - 基于大语言模型的知识库问答系统

二、DeepSeek 介绍

DeepSeek是深度求索推出的一款大型语言模型（LLM），具体优势如下：

• 性能卓越：
  • DeepSeek-V2模型参数量达到了惊人的236B，每个token激活21B参数，支持长达128K token的上下文长度，性能直逼GPT-4-Turbo。
  • 在中文综合能力评测中，DeepSeek-V2超越了所有开源模型，与GPT-4-Turbo等行业巨头处于同等水平。
  • 在英文综合评测中，与最强的开源模型LLaMA3-70B处于同一梯队，超过最强MoE开源模型Mixtral8x22B。
  • 在知识、数学、推理、编程等多个领域的专项基准测试中均表现出色。
• 低成本高效能：
  • DeepSeek-V2采用了创新的模型架构和训练方法，大幅降低了计算量和显存占用，确保了高效推理。
  • 其训练成本和部署成本大幅低于同类大模型，API定价仅为GPT-4-Turbo的近百分之一，每百万tokens仅需1元人民币。
• 全面开源：
  • DeepSeek不仅提供了强大的模型性能，还坚持全面开源的策略，促进了AI社区的发展和创新。
  • 用户在GitHub上可以访问到DeepSeek的多个开源项目，包括DeepSeek-VL、DeepSeek-Coder、DeepSeek-LLM、DeepSeek-MoE等。
• 多场景应用：
  • DeepSeek可应用于智能对话、内容创作、教育辅助、专业服务等多个领域。
  • 其强大的对话生成能力、写作、数学和编程能力，为各行各业的专业人士提供了有力的支持。

具体功能可以参考官网：DeepSeek | 深度求索

三、实现步骤

1、部署 MaxKB

安装前请确保您的系统符合安装条件：

• 操作系统：Ubuntu 22.04 / CentOS 7 64 位系统；
• CPU/内存： 推荐 2C/4GB 以上；
• 磁盘空间：100GB；
• 浏览器要求：请使用 Chrome、FireFox、Safari、Edge等现代浏览器；
• 可访问互联网。

a、在线部署

MaxKB 支持一键启动，仅需执行以下命令：

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data cr2.fit2cloud.com/1panel/maxkb

b、离线部署

打开社区网站下载 MaxKB 离线包 社区版离线包

上传至服务器后进行解压缩，执行以下命令：

# maxkb-v1.3.0-offline.tar.gz替换成下载包的名字  
tar -zxvf maxkb-v1.3.0-offline.tar.gz

安装 MaxKB， 执行以下命令：

# 进入安装包解压缩后目录  
cd maxkb-v1.3.0-offline
 
# 执行安装命令
bash install.sh

c、使用 1Panel 部署

通过1Panel应用商店，快速安装MaxKB应用。

安装成功后，可通过浏览器访问 MaxKB：

http://目标服务器 IP 地址:目标端口
 
默认登录信息
用户名：admin
默认密码：MaxKB@123..

2、对接 DeepSeek

在 MaxKB 系统设置中模型设置中使用 DeepSeek ，对应的 API Key 可以通过 DeepSeek官网注册获取，首次注册赠送 500 万 tokens，对于需要了解和试用 LLM 大语言模型的同学来说已经够用了。

3、上传知识库

输入知识库名称、知识库描述、选择通用型知识库类型。 然后将离线文档通过拖拽方式或选择文件上传方式进行上传。

4、创建应用

应用是指基于LLM大语言模型构建的实际场景应用，当前应用支持简易配置和高级编排自定义AI工作流应用。同可以全屏模式和浮窗模式嵌入到第三方产品，可以根据需求为不同产品创建所需的应用。