当前位置:   article > 正文

《向量数据库指南》——如何持久化存储 LlamaIndex 向量索引?_llama_index quart 本地向量库

llama_index quart 本地向量库

随着 AGI 时代的到来,越来越多的开发者开始思考如何有效利用大模型,不过,大家在构建 LLM 应用时普遍会面临三大挑战


 

 

  • LLM 的使用成本高昂
  • LLM 无法及时提供最新信息
  • LLM 缺乏特定专业领域的知识


 

针对上述问题,业界主流的做法是采用两种主要框架:微调和缓存 + 注入。


 

微调主要是针对后两点挑战(缺乏正确信息)的解决方法,而缓存 + 注入则是为了解决使用成本高昂的问题。同时,缓存 + 注入的框架也被称为 CVP 架构即 ChatGPT + Vector Database + Prompt-as-Code)。


 

在此情况下,LlamaIndex 应运而生。作为一个专为构建 LLM 应用设计的新工具,它可以为用户抽象出上述框架中的内容。


 

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小小林熬夜学编程/article/detail/481282
推荐阅读
相关标签
  

闽ICP备14008679号