赞
踩
一种利用 langchain 思想实现的基于本地知识库的问答应用,目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。(本文侧重于整个项目的理解和内容调节,如部署遇到问题请看结尾的其他参考文章)
Langchain-Chatchat 项目地址: https://github.com/chatchat-space/Langchain-Chatchat
一种利用 langchain 思想实现的基于本地知识库的问答应用,目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。
依托于本项目支持的开源 LLM 与 Embedding 模型,本项目可实现全部使用开源模型离线私有部署。与此同时,本项目也支持 OpenAI GPT API 的调用,并将在后续持续扩充对各类模型及模型 API 的接入。
本项目实现原理如下图所示,过程包括加载文件 -> 读取文本 -> 文本分割 -> 文本向量化 -> 问句向量化 -> 在文本向量中匹配出与问句向量最相似的 top k个 -> 匹配出的文本作为上下文和问题一起添加到 prompt中 -> 提交给 LLM生成回答。
项目实现原理如下:
Notice: 强烈建议直接使用镜像!!!个人去搭建环境真的会遇到亿点点问题
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。