当前位置:   article > 正文

(14-1)Langchin基础知识:LangChain介绍_langchin 和langchain-chait

langchin 和langchain-chait

LangChain 是一个用于开发基于语言模型的应用程序的开发框架,它旨在帮助开发者使用语言模型(LLM)构建端到端的应用程序,并提供了一系列工具、组件和接口来实现这一目标。在本章的内容中,将详细讲解LangChain的基础知识,介绍LangChain技术的原理和架构知识,为读者步入后面知识的学习打下基础。

LangChain是一个开源框架,允许从事人工智能的开发者将例如GPT-4的大语言模型与外部计算和数据来源结合起来,它使应用程序具备以下特性。

  1. 上下文感知:将语言模型连接到上下文来源(提示指令、少量示例、用于建立响应基础的内容等)。
  2. 推理:依赖语言模型进行推理(根据提供的上下文进行回答的方式、采取的行动等)。

2.1.1  LangChain框架的组成

LangChain是一个用于开发由语言模型驱动的应用程序的框架,包含如下所示的几个部分。

  1. LangChain Libraries(LangChain库):有Python库和JavaScript库两种,包含用于各种组件的接口和集成,用于组合这些组件成链和代理的基本运行时,以及任务的现成实现。
  2. LangChain Templates(LangChain模板):一组易于部署的参考架构,用于各种任务。
  3. LangServe(LangServe):用于将LangChain链部署为REST API的库。
  4. LangSmith(LangSmith):一种开发平台,可让我们在任何LLM框架上调试、测试、评估和监视构建在其上的链,并与LangChain无缝集成。

上述组成产品共同简化了整个应用程序生命周期,具体说明如下所示。

  1. 开发(Develop):在LangChain/LangChain.js中编写我们自己的应用程序,使用模板作为参考快速入门。
  2. 生产(Productionize):使用LangSmith检查、测试和监视链,以便可以不断改进并自信地部署。
  3. 部署(Deploy):使用LangServe将任何链转换为API。

LangChain Libraries本身由几个不同的软件包组成,具体说明如下所示。

  1. langchain-core(LangChain核心):基本抽象和LangChain表达语言。
  2. langchain-community(LangChain社区):第三方集成。
  3. langchain(LangChain):构成应用程序认知架构的链、代理和检索策略。

注意:LangChain不是OpenAI的产品,而是一个由Lang.AI(语言人工智能)开发的框架,用于构建由语言模型驱动的应用程序。OpenAI和Lang.AI是两个不同的组织,分别专注于人工智能和语言技术的研究和开发。

2.1.2  安装LangChain

LangChain可以构建由语言模型驱动的上下文感知和推理能力的应用程序,通过pip或conda安装LangChain后,可以利用langchain-community、langchain-core、langchain-experimental等附加包,以及LangServe、LangChain CLI和LangSmith SDK等辅助工具进行更深层次的集成、部署和开发。LangChain的价值在于它简化了应用程序的开发、生产和部署过程,并提供了丰富的附加模块和工具。

要安装LangChain,可以使用以下方法之一实现。

(1)通过pip安装,安装命令如下所示。

pip install langchain

这将安装LangChain的基本要求。但是,如果需要与各种模型提供程序、数据存储等进行集成,LangChain的真正价值将在这些特定集成的依赖项安装之后显现。您需要单独安装特定集成的依赖项。

(2)通过conda安装,安装命令如下所示。

conda install -c conda-forge langchain

(3)从源代码安装

如果想要从源代码安装,可以克隆存储库,并确保目录在 PATH/TO/REPO/langchain/libs/langchain 下运行。安装命令如下所示。

pip install -e .

(4)安装LangChain community包

LangChain community包包含第三方集成,它会在安装LangChain时自动安装,但也可以单独使用。安装命令如下:

pip install langchain-community

(5)安装LangChain core包

LangChain core包包含LangChain生态系统中其余部分使用的基本抽象,以及LangChain Expression Language。它会在安装LangChain时自动安装,也可以单独使用。安装命令如下:

pip install langchain-core

(6)安装LangChain experimental包

LangChain experimental包包含用于研究和实验目的的实验性LangChain代码。安装命令如下:

pip install langchain-experimental

(7)安装LangServe

LangServe帮助开发人员将LangChain可运行程序和链部署为REST API。如果未使用LangChain CLI,请使用以下命令安装:

pip install "langserve[all]"

或者分别安装客户端和服务器依赖项,安装命令如下所示。

pip install "langserve[client]"

pip install "langserve[server]"

(8)安装LangChain CLI

LangChain CLI对于使用LangChain模板和其他LangServe项目非常有用,使用以下命令安装:

pip install langchain-cli

(9)安装LangSmith SDK

LangSmith SDK会在安装LangChain时自动安装。如果未使用LangChain,请使用以下命令安装:

pip install langsmith

在实际应用中,请选择适合自己的安装方式,并根据需要安装附加包和工具。

2.1.3  LangSmith

LangSmith 是一个用于构建生产级 LLM 应用程序的平台,允许我们调试、测试、评估和监控基于任何 LLM 框架构建的链和智能代理,并无缝集成 LangChain(用于构建 LLM 的首选开源框架)。 LangSmith 由 LangChain 开发,LangChain 是开源 LangChain 框架背后的公司。

LangSmith是LangChain框架的一部分,用于构建和调试基于语言模型的应用程序。当在应用程序中包含多个步骤和多次调用语言模型(LLM)时,特别是在应用程序变得越来越复杂时,了解链或代理内部发生的事情变得至关重要。LangSmith提供了检查和追踪应用程序执行过程的功能。

LangSmith的目标很宏大,但是实际上还是处于早期阶段,目前最实用的功能还是调试、跟踪LangChain应用,但是单是这一项的价值都已经无可估量,可以大大缩减你学习LangChain的时间,提高用LangChain开发LLM应用的效率。

用LangChain来完成大语言模型的应用原型/代理很简单,但是,要交付实际的大语言应用异常困难:可能要大量定制、迭代Prompt、链和其他组件。LangSmith可以帮你快速调试链、代理或者一组工具,可视化各种组件(链、llms、检索器retrievers等)如何交互及使用,评估不同的Prompts等等。

注意:LangSmith并非强制使用。如果决定使用LangSmith,需要在注册后设置环境变量以启用日志跟踪功能:

export LANGCHAIN_TRACING_V2="true"

export LANGCHAIN_API_KEY="..."

在上述两行命令中,将环境变量LANGCHAIN_TRACING_V2设置为"true",并设置LANGCHAIN_API_KEY为LangSmith的API密钥。这些设置允许LangSmith记录和跟踪应用程序的执行过程,提供有关链或代理内部操作的详细信息。

未完待续

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/不正经/article/detail/336714
推荐阅读
相关标签
  

闽ICP备14008679号