LangChain拾遗和LangChain版AutoGPT实现_langchain autogpt

LangChain

LangChain核心模块

• Chat Model：使LLM获得聊天对话能力，更重要的是使LLM获得多角色能力（System，Human，AI，Function角色）

• Chat Prompt Template：提供了便捷维护不同角色的提示词模版与消息记录的接口

LangChain中通过SelfHostedModel的抽象来支持ChatGLM。

LangChain Agent生态

• 基于LLM的智能代理是通往AGI的有效探索

• 最主要的3个组件

  • Planning规划

    • Prompt提示

    • Agent代理：决定下一步作什么

  • Memroy记忆

    • short-term内存

    • long-term：向量数据库

  • Tool工具：各种外部工具

• 相比LLM+API应用，智能代理的优势

  • 自我纠正：约束和管理随机性，提高正确性

  • 处理多跳任务

  • 解决长期任务：持久化

智能代理分类

• 行动代理：旨在决定行动序列（例如OpenAI Function Call，ReAct）

• 模拟代理：通常设计用于角色扮演，在模拟环境中运行（例如生成式智能体，CAMEL）

  • 哈佛的模拟小镇

• 自主智能体（最难最复杂也最有价值）：旨在独立执行以实现长期目标（例如AutoGPT，BabyAGI）

AutoGPT 

AutoGPThttps://github.com/Significant-Gravitas/Auto-GPT

• 定位：一个自主的GPT-4实验，由GPT-4驱动。

• 作为GPT-4完全自主运行的首批示例之一，Auto-GPT 推动了人工智能所能达到的边界。

• 功能

  • 访问互联网搜索实时信息的能力

  • 长短记忆管理

  • 基于GPT-4执行文本生成任务

  • 插件支持

• 在ReAct上添加了Memory的能力

Agent基于LLM后，既有生成的能力，也有判断的能力。

Prompt用得好就是核心竞争力。

LangChain版AutoGPT代码解析 

LangChain版AutoGPT代码https://github.com/langchain-ai/langchain/blob/master/libs/experimental/langchain_experimental/autonomous_agents/autogpt

Agent代码解析 github.com

• Agent执行的是各种Chain

• LLMChain=LLM+Prompt

• 核心方法run（只有60行代码）

  • 唯一入参：goals字符串列表，设定执行目标

  • 主要是一个while True｛｝循环

    • loop_count限制循环次数

    • 调用 self.chain.run()获得响应，保存到历史记录

    • 解析响应结果，如果完成目标则返回

    • 如果未完成目标且存在需要调用的Tool，则调用Tool

    • 如果没有可调用的Tool，则记录错误，不知道下一步要做什么

Prompt代码解析 github.com

• 提示词元模板

• 在prompt中运用 冒号: 来提示LLM将生成内容放在后边。 这是因为GPT的训练语料中存在大量带冒号的标注内容，能够提高识别度

• 实现的代码是建立在现有的prompt设计技巧之上，如果prompt设计方式有调整，则实现代码的方式也会调整

其他

Gradio

Gradio[www.gradio.app] 是一个比较流行的通过Web方式运作GUI库。Gradio服务商还提供了短时的公网web转发。如果要将Gradio部署为Web服务，可以挂在Flask上。

在老师的演示中发现，Gradio来实现简单的GUI非常简单，虽然也就是几个块排列，但也可以认为有“声明式UI”的影子了。

向量数据库FAISS

• 由Meta的研究小组开发

• 具备高性能和能够处理非结构化（如图片）内容两大特点