大模型内容分享(十八)：大模型最全八股(三)_基于llm+向量库的文档对话痛点及解决方案

目录

 大模型（LLMs）langchain面

基于LLM+向量库的文档对话经验面

大模型（LLMs）langchain面

1. 什么是 LangChain?

   LangChain 是一个基于语言模型的框架，用于构建聊天机器人、生成式问答（GQA）、摘要等功能。它的核心思想是将不同的组件“链”在一起，以创建更高级的语言模型应用。LangChain 的起源可以追溯到 2022 年 10 月，由创造者 Harrison Chase 在那时提交了第一个版本。与 Bitcoin 不同，Bitcoin 是在 2009 年由一位使用化名 Satoshi Nakamoto 的未知人士创建的，它是一种去中心化的加密货币。而 LangChain 是围绕语言模型构建的框架。

2. LangChain 包含哪些 核心概念？

   • StreamlitChatMessageHistory：用于在 Streamlit 应用程序中存储和使用聊天消息历史记录。它使用 Streamlit 会话状态来存储消息，并可以与 ConversationBufferMemory 和链或代理一起使用。

   • CassandraChatMessageHistory：使用 Apache Cassandra 数据库存储聊天消息历史记录。Cassandra 是一种高度可扩展和高可用的 NoSQL 数据库，适用于存储大量数据。

   • MongoDBChatMessageHistory：使用 MongoDB 数据库存储聊天消息历史记录。MongoDB 是一种面向文档的 NoSQL 数据库，使用类似 JSON 的文档进行存储。

3. 什么是 LangChain Agent?

   LangChain Agent 是 LangChain 框架中的一个组件，用于创建和管理对话代理。代理是根据当前对话状态确定下一步操作的组件。LangChain 提供了多种创建代理的方法，包括 OpenAI Function Calling、Plan-and-execute Agent、Baby AGI 和 Auto GPT 等。这些方法提供了不同级别的自定义和功能，用于构建代理。

   代理可以使用工具包执行特定的任务或操作。工具包是代理使用的一组工具，用于执行特定的功能，如语言处理、数据操作和外部 API 集成。工具可以是自定义构建的，也可以是预定义的，涵盖了广泛的功能。

   通过结合代理和工具包，开发人员可以创建强大的对话代理，能够理解用户输入，生成适当的回复，并根据给定的上下文执行各种任务。

   以下是使用 LangChain 创建代理的示例代码：

   from langchain.chat_models import ChatOpenAI
   from langchain.agents import tool
    
   # 加载语言模型
   llm = ChatOpenAI(temperature=0)
    
   # 定义自定义工具
   @tool
   def get_word_length(word: str) -> int:
       """返回单词的长度。"""
       return len(word)
    
   # 创建代理
   agent = {
       "input": lambda x: x["input"],
       "agent_scratchpad": lambda x: format_to_openai_functions(x['intermediate_steps'])
   } | prompt | llm_with_tools | OpenAIFunctionsAgentOutputParser()
    
   # 调用代理
   output = agent.invoke({
       "input": "单词 educa 中有多少个字母？",
       "intermediate_steps": []
   })
    
   # 打印结果
   print(output.return_values["output"])
   

   这只是一个基本示例，LangChain 中还有更多功能和功能可用于构建和自定义代理和工具包。您可以参考 LangChain 文档以获取更多详细信息和示例。

4. 如何使用 LangChain ?

   To use LangChain, you first need to sign up for an API key at platform.langchain.com. Once you have your API key, you can install the Python library and write a simple Python script to call the LangChain API. Here is some sample code to get started:

   import langchain
    
   api_key = "YOUR_API_KEY"
    
   langchain.set_key(api_key)
    
   response = langchain.ask("What is the capital of France?")
    
   print(response.response)
   

   This code will send the question "What is the capital of France?" to the LangChain API and print the response. You can customize the request by providing parameters like max_tokens, temperature, etc. The LangChain Python library documentation has more details on the available options.

5. LangChain 支持哪些功能?

    

   LangChain支持以下功能：

   以上是LangChain支持的一些功能。您可以根据具体的需求使用这些功能来创建生产就绪的聊天应用程序。

   声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/IT小白/article/detail/717413