当前位置:   article > 正文

AI探索实践15 - Typescript开发AI应用7:实现Agent_typescript ai

typescript ai

大家好,我是feng,欢迎关注公众号和我一起探索。如果文章对你有所启发,请为我点赞、转发!

图片

一、回顾

复习一下之前介绍Typescript开发AI应用的相关知识点:

1.1 配置本地大模型

AI探索实践9 - Typescript开发AI应用1:不用Python!用前端也能开发一个本地运行的“ChatGPT”!icon-default.png?t=N7T8https://mp.csdn.net/mp_blog/creation/editor/136489515

 使用Ollama搭建和管理、运行本地大模型,使用Quasar、Vue3、LangChain等框架技术开发了一个类似ChatGPT的对话式AI应用实例。

1.2 大模型响应的流式输出与处理

AI探索实践10 - Typescript开发AI应用2:前端实现本地模型流式响应输出icon-default.png?t=N7T8https://mp.csdn.net/mp_blog/creation/editor/136522923LangChain提供了3种方式向大模型发送请求,分别是:

  1. invoke:单次请求响应类型。可获取一次请求的完整结果。
  2. batch:一次发送多个请求。可获取批量请求的完整结构。
  3. stream:单词请求、流式响应类型。可获取一次请求的流方式的响应数据数组。

我们可以根据不同的需求场景,采用不同的调用方式。

1.3 使用提示语模板

AI探索实践11 - Typescript开发AI应用3:Prompt Template (提示语模版) 功能icon-default.png?t=N7T8https://mp.csdn.net/mp_blog/creation/editor/136551418

了解提示语模板的作用,通过提示语模板功能,我们可以为用户发送的提示语,补充更多的上下文信息,从而得到更好的答案。我们可以在提示语中间指定模型的角色、明确模型要做的任务,以及说明需要识别用户的输入占位符等。

1.4 大模型输出的格式化

AI探索实践12 - Typescript开发AI应用4:大模型响应数据的格式化输出icon-default.png?t=N7T8https://mp.csdn.net/mp_blog/creation/editor/136570566我们可以对大模型的输出数据格式化为实际需要的类型,比如字符串、数组、json对象等。

1.5 抓取网页、加载和分割文档、向量存储与检索

AI探索实践13 - Typescript开发AI应用5:抓取网页、文档分割、向量存储与检索链语义检索的使用 【推荐】icon-default.png?t=N7T8https://mp.csdn.net/mp_blog/creation/editor/136588067 这篇博文比较重要,可视为一个RAG应用的基本实现示例。

1.6 为提示语模板附加对话历史

AI探索实践14 - Typescript开发AI应用6:将对话历史记录添加到上下文icon-default.png?t=N7T8https://mp.csdn.net/mp_blog/creation/editor/136641393了解如何使用LangChain的API来设置对话历史,主要有3种类型:

  1. AIMessage: 代表大模型消息
  2. HumanMessage:代表用户的消息
  3. SystemMessage:代表系统消息

本文将介绍另一个重要概念:Agent,它是实现企业AI应用的重要组成部分。

二、认识 Agent

2.1 从功能角度看Agent

Agent(智能体) = 一个设置了一些目标或任务,可以迭代运行的大型语言模型。这与大型语言模型(LLM)在像ChatGPT这样的工具中“通常”的使用方式不同。在ChatGPT中,你提出一个问题并获得一个答案作为回应。而Agent拥有复杂的工作流程,模型本质上可以自我对话,而无需人类驱动每一部分的交互。

这个定义有几个关键词:

  1. 任务:有明确的目的
  2. 迭代:能够循环执行某些逻辑或任务
  3. 大语言模型:agent的核心或者本质是大语言模型。
  4. 流程:按照一定的程序
  5. 自动:不需要人工干预

所以如果这个定义按照关键词来理解就是:一个能够解决明确问题的、按照一定流程执行的、不需要人工干预的、如有必要可以循环执行任务的大模型。

如果给这个定义加上:视觉、听觉和金属外壳,这不就是科幻电影中的人工智能的机器人嘛!

2.2 从开发角度看Agent

来看看LangChain上对Agent是如何定义的:https://www.wpsshop.cn/w/weixin_40725706/article/detail/655645

推荐阅读
相关标签
  

闽ICP备14008679号