当前位置:   article > 正文

向量数据库Chroma初步了解学习记录_chromdb向量数据库

chromdb向量数据库

目录

前言

一、Chroma是什么?

二、使用步骤

1.安装

2.连接Chroma

内存模式

client模式

Server模式

3.创建数据集

4.写入数据

5.查询数据

 6.完整代码

7.更多参考

三、瞅瞅chroma之sqlite

总结


前言

大模型很强大,但是大模型也存在知识的局限性,即大模型的知识受限于大模型训练日期,大模型的知识是有截止日期的,不是实时的;再一个有些数据是私有的,大模型也无从知晓。

那么RAG就有了用武之地。而Rag这块就不得不提到向量数据库。

虽然传统数据库也可以进行数据查询检索,但是传统数据库是基于关键词,是没有语义理解的。而向量数据库可以进行语义理解,本质上其实是将语言文字做了向量化,即语义空间,语义相近的向量信息也接近。

向量数据库目前也有很多产品,入门简单的首推Chroma,今天就介绍下


一、Chroma是什么?

ChromaDB(也称为Chroma)是一个开源的向量数据库,主要用于AI和机器学习场景。它的主要功能是存储和查询向量数据,这些数据通常是通过嵌入(embedding)算法从文本、图像等数据转换而来的。ChromaDB的设计目标是简化大模型应用的构建过程,允许开发者轻松地将知识、事实和技能等文档整合进大型语言模型(LLM)中。

ChromaDB的特点包括:

  1. 轻量级: 它是一个基于向量检索库实现的轻量级向量数据库。
  2. 易用性: 提供简单的API,易于集成和使用。
  3. 功能丰富: 支持存储嵌入及其元数据、嵌入文档和查询、搜索嵌入等功能。
  4. 集成: 可以直接插入LangChain、LlamaIndex、OpenAI等。
  5. 多语言支持: 包括Python和JavaScript客户端SDK。
  6. 开源: 采用Apache 2.0开源许可。

ChromaDB的一些限制包括目前只支持CPU计算,不支持GPU加速,且功能相对简单。不过,它计划未来推出托管产品,提供无服务器存储和检索功能,支持向上和向下扩展,让开发者更易于使用。

二、使用步骤

1.安装

ChromaDB的安装简单,可以通过pip或npm进行安装。在Python中,可以通过运行pip install chromadb来安装ChromaDB。

2.连接Chroma

内存模式

数据存在内存,程序运行完数据也就没了

  1. import chromadb
  2. from chromadb.config import Settings
  3. chroma_client = chromadb.Client(Settings(allow_reset=True))
  4. # 为了演示,实际不需要每次 reset()
  5. # chroma_client.reset()

client模式

直接连接本地数据库文件,类似sqlite(看了下,Chroma底层存储就是基于sqlite,后面可以简单说下)

  1. import chromadb
  2. # chroma_client = chromadb.Client()
  3. chroma_client = chromadb.PersistentClient(path="E:\Data\chroma\mydb.db")

Server模式

cmd

chroma run --path E:\Data\chroma\test

这个时候会以命令中指定的路径,创建数据库文件,并启动Chroma服务

回到代码

  1. import chromadb
  2. chroma_client = chromadb.HttpClient(host='localhost', port=8000)

3.创建数据集

collection类似关系型数据库的表

collection = chroma_client.get_or_create_collection(name=collection_name)

4.写入数据

  1. collection.add(
  2. # embeddings=self.embedding_fn(documents), # 每个文档的向量
  3. documents=documents, # 文档的原文
  4. ids=[f"id{i}" for i in range(len(documents))] # 每个文档的 id
  5. )

embeddings参数是文档的向量,这里一般需要调用大模型的embedding模型接口

如果不设置,那么会使用内置的embedding模型

5.查询数据

  1. res=collection.query(
  2. query_texts=["查询内容"],
  3. n_results=5
  4. )

 6.完整代码

  1. import chromadb
  2. # collection名称
  3. collection_name="test_01"
  4. def init_db_client():
  5. """初始化数据库客户端"""
  6. chroma_client = chromadb.HttpClient(host='localhost', port=8000)
  7. return chroma_client
  8. def create_collection(collection_name):
  9. """创建collection"""
  10. chroma_client = init_db_client()
  11. collection=chroma_client.get_or_create_collection(name=collection_name)
  12. return collection
  13. def add_documents(collection, documents):
  14. """写入数据"""
  15. collection.add(
  16. # embeddings=self.embedding_fn(documents), # 每个文档的向量
  17. documents=documents, # 文档的原文
  18. ids=[f"id{i}" for i in range(len(documents))] # 每个文档的 id
  19. )
  20. def db_test():
  21. collection = create_collection(collection_name)
  22. datas=[
  23. "小明喜欢吃苹果",
  24. "小红喜欢吃榴莲",
  25. "小明的女朋友是小丽",
  26. "王老师是一个好老师",
  27. "小李喜欢吃香蕉",
  28. "小王的男朋友是大帅哥"
  29. ]
  30. add_documents(collection, datas)
  31. # 查询数据
  32. res=collection.query(
  33. query_texts=["谁是老师"],
  34. n_results=5
  35. )
  36. print(res)
  37. db_test()

7.更多参考

向量数据库Chroma极简教程 - 知乎 (zhihu.com)icon-default.png?t=N7T8https://zhuanlan.zhihu.com/p/665715823?utm_id=0

三、瞅瞅chroma之sqlite

看下chroma数据库文件可以发现其数据库实际名称是:chroma.sqlite3

然后我试着用sqlite数据库工具是可以打开这个数据库文件的,有一些固化的表,随便看了下,也是可以找到我写入的数据的。

比如:

collections:新建一个collection这里就有一条记录

embedding_fulltext_search:我写入的数据,这里都有

embedding_fulltext_search_content:同上,不过多了一列id

embedding_fulltext_search_data:这个表数据做编码处理了

embedding_metadata:我写入的数据,这里都有,不过又多了几列


总结

以上就是今天要讲的内容,本文主要对chroma向量数据库进行了基本介绍,然后又介绍了chroma的安装、连接、创建数据、写入数据、查询数据等。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/你好赵伟/article/detail/624863
推荐阅读
相关标签
  

闽ICP备14008679号