2024-01-04-AI 大模型全栈工程师 - 大模型应用开发框架 LangChain

摘要

2024-01-04 周四 杭州 阴转多云

内容简要:
a. 如何使用 LangChain: 在大模型能力上封装的工具框架
b. 几行代码实现一个复杂的AI应用
c. 面向大模型的流程的开发过程

课程内容

1. LangChain 简介

a. LangChain 是一套面向大模型的框架
b. LangChain 是 AGI 时代软件工程的一个探索和原型
c. LangChain 并不完美，还在不断迭代中
d. 学习 LangChain 核心是借鉴思想，具体的接口肯定会发生变化

2. LangChain 的核心组件

a. 模型 I/O 封装
a.1 LLMs: 大语言模型
a.2 Chat Moddels: 一般基于 LLMs,但按照对话结构重新封装
a.3 PromptTemple: 提示词模板
a.4 OutputParser: 解析输出

b. 数据连接封装
b.1 Document Loaders: 各种格式文件的加载器
b.2 Document transformers: 对文档的常用操作，如: split ,filter,translate,extract metadata,etc
b.3 Text Embedding Models: 文本向量化表示，用于检索等操作、
b.4 Verctor stores:(面向检索的)向量的存储

c. 记忆封装
c.1 Memory: 上文，历史记录，记忆力管理

d. 架构封装
d.1 Chain: 实现一个功能或者一系列顺序功能的组合
d.2 Agent: 根据用户输入，自动规划执行步骤，自动选择每步需要的工具，最终完成用户指定的功能；
Tools: 调用外部功能的函数，例如: 谷歌搜索，文件 I/O， Shell 等
Toolkits: 操作某软件的一组工具集，例如: 操作 DB，操作 Gmail 等等

e. Callbacks

3. 智能体架构： Agent

a. 什么是智能体（Agent）

将大语言模型作为一个推理引擎，给定一个任务，智能体自动生成完成任务的所需步骤，执行响应的动作（例如选择并调用工具），直到任务完成。

b. 先定义一些工具: Tools
b.1 函数或者三方 API
b.2 可以把 Chain 或者 Agent 的 run() 作为一个 Tool

4. 大模型时代软件的演变趋势

总结

心得: 掌握 LangChain ，软件工程本就是不断迭代的，未来人们需要通过对话或者伪代码的方式完成应用开发，只要逻辑清晰就可以了，不需要再学习那么多的数学或者逻辑知识，当然如果想要根本性的改革和创新，基础知识还是十分必要的，对于大多数人，无需浪费过多的时间学习基础知识。