揭秘！大模型知识库架构设计和落地困境

作者：小舞很执着 | 2024-07-13 22:12:36

踩

大模型知识库

▼最近直播超级多，预约保你有收获

—1—

大模型知识库架构设计

以下这张图可能许多同学都见过，它展示了一个文档处理流程：首先，将PDF、PPT、Word 等格式的文档进行分割，然后转换为嵌入（Embedding）形式，并存储到向量数据库里。在问答环节，系统会检索并提取与问题相关的文档块，接着构建一个提示词（Prompt），将其输入到一个大语言模型中，最终由模型生成相应的问答内容。

以上架构本质上解决两大核心问题：如何突破传统 tokens 数量的限制，以及如何更精准地提炼出问题的本质。

本文内容由网友自发贡献，转载请注明出处：【wpsshop博客】

推荐阅读

相关标签