赞
踩
向量数据库其实最早在传统的人工智能和机器学习场景中就有所应用。在大模型兴起后,由于目前大模型的token
数限制,很多开发者倾向于将数据量庞大的知识、新闻、文献、语料等先通过嵌入(embedding
)算法转变为向量数据,然后存储在Chroma
等向量数据库中。当用户在大模型输入问题后,将问题本身也embedding
,转化为向量,在向量数据库中查找与之最匹配的相关知识,组成大模型的上下文,将其输入给大模型,最终返回大模型处理后的文本给用户。
这种方式不仅降低大模型的计算量,提高响应速度,也降低成本,并避免了大模型的tokens
限制,是一种简单高效的处理手段。此外,向量数据库还在大模型记忆存储等领域发挥其不可替代的作用。
Chroma
的目标是帮助用户更加便捷地构建大模型应用,更加轻松的将知
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。