热门标签
热门文章
- 1redis5种存储类型及其存取指令_redis increment默认integer
- 2交叉编译ffmpeg+x264+x265 （x86、arm-linux双版本）亲测有效_ffmpeg交叉编译arm
- 3Makefile-清空目标文件的规则_makefile 清除.o
- 4Kafka快速入门+SpringBoot简单的秒杀案例_kafka简单的入门案例springboot
- 5linux 软件包管理设置,Linux速通08 网络原理及基础设置、软件包管理
- 6机器人帮助文档
- 7[华为OD] 动态规划 有一名科学家想要从一台古董电脑中拷贝文件到自己的电脑中加以研究 200
- 8什么是HashMap？什么情况下使用HashMap？_hashmap是什么
- 9Linux Ubuntu安装RabbitMQ服务
- 102024年睿抗机器人开发者大赛（RAICOM）省赛题解_睿抗2024省赛题解
当前位置: article > 正文
【AI】本地部署可以与文件沟通的GPT：Llama 2 + GPT4All + Chroma_ollama gpt4all
作者：喵喵爱编程 | 2024-08-08 14:38:58
赞
踩
ollama gpt4all
【背景】
还是继续致力于实践可以保护数据隐私的本地化LLM部署。
这次用的是Llama 2 + GPT4All + Chroma实现RAG。
【概念】
基于LangChain模板的各个部分的作用：
- Llama2-》语言模型管理
- GPT4ALL-》embedding
- Chroma-》文件内容的向量存储，作为内部知识库，不需要网络就可以存储。
【环境构建】
- 安装Ollama
在Linux或Windows的WSL下，使用命令：
curl https://ollama.ai/install.sh | sh
- 1
- 利用Ollama下载一款LLM模型
比如，下载一个llama2 7b chat模型：
ollama pull llama2:7b-chat
- 1
- 安装LangChain命令行工具CLI：
pip install -U langchain-cli
- 1
推荐阅读
相关标签
