赞
踩
▼最近直播超级多,预约保你有收获
今天直播:《RAG和GPTs构建Agent产业应用落地实战》
—1—
LangGraph 技术架构解读
LangGraph 是一个有用于构建有状态和多角色的 Agents 应用,它并不是一个独立于 Langchain 的新框架,而是基于 Langchain 之上构建的一个扩展库,可以与 Langchain 现有的链(Chains)、LangChain Expression Language(LCEL)等无缝协作。LangGraph 能够协调多个 Chain、Agent、Tool 等共同协作来完成输入任务,支持 LLM 调用“循环”和 Agent 过程的更精细化控制。
LangGraph 的实现方式是把之前基于 AgentExecutor 的黑盒调用过程,用一种新的形式来构建:状态图(StateGraph)。把基于 LLM 的任务(比如:RAG、代码生成等)细节用 Graph 进行精确的定义(定义图的节点与边),最后基于这个图来编译生成应用。在任务运行过程中,维持一个中央状态对象(state),会根据节点的跳转不断更新,状态包含的属性可自行定义。
我们一起剖析下官方 RAG 应用的 Graph 案例,如下图所示,从而更好理解 LangGraph。
上图 RAG Graph 中体现了 LangGraph 的几个基本概念:
StateGraph:代表整个状态图的基础类。
Nodes:节点。有了图之后,可以向图中添加节点,节点通常是一个可调用的函数、一个可运行的 Chain 或 Agent。有一个特殊的节点叫END,进入这个节点,代表运行结束。
在上图中,推理函数调用、调用检索器、生成响应内容、问题重写等都是其中的任务节点。
Edges:边。有了节点后,需要向图中添加边,边代表从上一个节点跳转到下一个节点的关系。目前有三种类型的边:
Starting Edge、一种特殊的边。用来定义任务运行的开始节点,它没有上一个节点。
Normal Edge:普通边。代表上一个节点运行完成后立即进入下一个节点。比如在调用 Tools 后获得结果后,立刻进入 LLM 推理节点。
Conditional Edge:条件边。代表上一个节点运行完成后,需要根据条件跳转到某个节点,因此这种边不仅需要上游节点、下游节点,还需要一个条件函数,根据条件函数的返回来决定下游节点。
在上图中,Check Relevance 就是一个条件边,它的上游节点是检索相关文档,条件函数是判断文档是否相关,如果相关,则进入下游节点【产生回答】;如果不相关,则进入下游节点【重写输入问题】。
在构建好 StateGraph,并增加 Node 和 Edge 后,可以通过 compile 编译成可运行的应用:
app = graph.compile()
接下来可以调用这个 app 来完成你的任务。
—2—
LangGraph 构建 Agent 应用
LangGraph 其实就是把现在黑盒的 AgentExecutor 透明化,允许开发者定义内部的细节结构(用图的方式),从而实现更强大的功能。那么就可以用LangGraph 来重新实现原来的 AgentExecutor,即实现一个最基础的 ReAct范式的 Agent 应用。
对应的 Graph 如下:
伪代码实现如下:
代码中的注释对 graph 构建的细节做了解释。显然,这要比简单的使用 agentExecutor 要复杂的多,但同时也展示了 LangGraph 在构建 LLM 应用时强大的控制能力:通过 Graph 的定义,可以对一个 LLM 应用的处理过程进行非常细节的编排设计,从而满足大量复杂场景的 AI Agent 产业应用落地。
更详细的实操步骤,放在今晚20点直播实操进行,直播精彩看点:
1、基于 RAG 实现 AI Agent 技术架构深度剖析
2、AI Agent 重构 AI 电商中台产业落地案例实战
3、基于 GPTs 实现 AI Agent 技术架构深度剖析
请同学点击下方按钮预约直播,咱们今晚20点直播见!
—4—
领取《AI 大模型技术直播》
我们梳理了下 AI 大模型应用开发的知识图谱,包括12项核心技能:大模型内核架构、大模型开发 API、开发框架、向量数据库、AI 编程、AI Agent、缓存、算力、RAG、大模型微调、大模型预训练、LLMOps 等。
为了帮助同学们掌握 AI 大模型应用开发技能,我们准备了一系列免费直播干货,扫码全部领取!
参考链接:
https://github.com/langchain-ai/langgraph/blob/main/examples/rag/langgraph_agentic_rag.ipynb
https://mp.weixin.qq.com/s/MzLz4lJF0WMsWrThiOWPog
END
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。