Langchain-Chatchat 搭建知识库教程，老奶奶都能看懂的教程

本文将在 google 实验室中使用 Langchain-Chatchat 搭建一个知识库，还可以进行聊天等功能。 由于是在 google 实验室上面跑代码，所以本地电脑什么配置都无所谓！

效果图

运行起来后可以上传各种文档文件到知识库。

Langchain-Chatchat 是什么？

github [github.com/chatchat-sp…]

一种利用 [langchain] 思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。

google 实验室基本使用手法

笔记本环境中默认已经安装了 nodejs、python 等环境。

新建文档

1. 打开地址 [drive.google.com/drive/my-dr…]（需fq）
2. 在 colab notebooks 目录下新增笔记文件即可

基本语法

• 在代码前面加上 “!” 符号就是可执行的命令语句
• %cd 用于切换将当前环境的目录

开始啦

1、仓库拉取

!git clone https://github.com/chatchat-space/Langchain-Chatchat.git

1
2

2、切换环境目录

repo_dir = "/content/Langchain-Chatchat"
%cd $repo_dir

1
2
3

3、修改配置文件

google 实验室使用默认的模型 chatglm3-6b 跑不起来，换一个小一点的模型就行, 我这里用 Qwen-1_8B-Chat

a. 打开文件 Langchain-Chatchat/configs/model_config.py.example 第 22 行改为：

LLM_MODELS = ["Qwen-1_8B-Chat", "zhipu-api", "openai-api"] 

1
2

b. 打开文件 Langchain-Chatchat/configs/server_config.py.example 第 9 行改为：

OPEN_CROSS_DOMAIN = True

1
2

b. 打开文件 Langchain-Chatchat/configs/server_config.py.example 第 17 行下面追加：

"share": True

1
2

依赖安装

# 安装全部依赖
!pip install -r requirements.txt
!pip install -r requirements_api.txt
!pip install -r requirements_webui.txt

1
2
3
4
5

模型下载

!rm -r Qwen-1_8B-Chat
!git clone https://huggingface.co/Qwen/Qwen-1_8B-Chat

!rm -r bge-large-zh
!git clone https://huggingface.co/BAAI/bge-large-zh

1
2
3
4
5
6

初始化知识库和配置文件

# 删除多余的知识库文件
# 删除后自己将文件上传到 /content/Langchain-Chatchat/knowledge_base/samples/content/ 目录即可
!rm -R /content/Langchain-Chatchat/knowledge_base/samples/content/
!mkdir /content/Langchain-Chatchat/knowledge_base/samples/content/

1
2
3
4
5

内网穿透插件安装

由于google实验室不提供公网ip，所以是没有办法直接访问我们运行的服务的，这时候用内网穿透即可

!npm install -g localtunnel


1
2
3

获取服务器 ipv4 地址

在访问内网穿透插件提供的地址时需要填入才可以进行访问页面

!curl ipv4.icanhazip.com


1
2
3

启动

!python ./startup.py -a & lt --port 8501


1
2
3

访问这个地址即可

最后

如何学习AI大模型？

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。