GPT实战系列-通过Basetool构建自定义LangChain工具方法

作者：小小林熬夜学编程 | 2024-03-12 16:04:00

踩

GPT实战系列-通过Basetool构建自定义Langchain工具方法

LLM大模型：

GPT实战系列-探究GPT等大模型的文本生成

GPT实战系列-Baichuan2等大模型的计算精度与量化

GPT实战系列-GPT训练的Pretraining，SFT，Reward Modeling，RLHF

GPT实战系列-ChatGLM3本地部署CUDA11+1080Ti+显卡24G实战方案

GPT实战系列-Baichuan2本地化部署实战方案

GPT实战系列-大话LLM大模型训练

随着OpenAI的GPT-4这样的大型语言模型（LLMs）已经风靡全球，现在让它们自动执行各种任务，如回答问题、翻译语言、分析文本等。LLMs是在交互上真正体验到像“人工智能”。

如何管理这些模块呢？

LangChain在这方面发挥重要作用。LangChain使构建由LLMs驱动的应用程序变得简单，使用LangChain，可以在统一的界面中轻松与不同类型的LLMs进行交互，管理模型版本，管理对话版本，并将LLMs连接在一起。

from typing import Optional, Type

from langchain.callbacks.manager import (
    AsyncCallbackManagerForToolRun,
    CallbackManagerForToolRun,
)
1
2
3
4
5
6

用BaseTool构建自定义的tools

LangChain可以连接到自己定义的工具，也可以连接到内嵌的tool提供商。这里介绍通过BaseTool的构造方法。

定义引用需要用的模块：

from langchain.pydantic_v1 import BaseModel, Field
from langchain.tools import BaseTool, StructuredTool, tool

1
2
3

当自带的工具并不能解决我们面临的问题，就需要自己构造自己的tools，怎么构造呢？

除了tool装饰器，还有是BaseTool的方法，定义工具的参数说明。

定义一个简单返回字符串的搜索工具，为了简单起见，并没有实现真正搜索。

# 定义参数说明
class SearchInput(BaseModel):
    query: str = Field(description="should be a search query")

1
2
3
4

自定义工具类，实现功能：

class CustomSearchTool(BaseTool):
    name = "custom_search"
    description = "useful for when you need to answer questions about current events"
    args_schema: Type[BaseModel] = SearchInput

    def _run(
        self, query: str, run_manager: Optional[CallbackManagerForToolRun] = None
    ) -> str:
        """Use the tool."""
        return "LangChain"

    async def _arun(
        self, query: str, run_manager: Optional[AsyncCallbackManagerForToolRun] = None
    ) -> str:
        """Use the tool asynchronously."""
        raise NotImplementedError("custom_search does not support async")
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16

实例化，并打印，得到类似这样的输出：

search = CustomSearchTool()
print(search.name)
print(search.description)
print(search.args)
1
2
3
4

得到类似的输出：

custom_search
useful for when you need to answer questions about current events
{'query': {'title': 'Query', 'description': 'should be a search query', 'type': 'string'}}

1
2
3
4

LangChain是一个Python框架，可以使用LLMs构建应用程序。它与各种模块连接，使与LLM和提示管理，一切变得简单。

觉得有用 收藏收藏收藏

点个赞点个赞点个赞

End

GPT专栏文章：

GPT实战系列-ChatGLM3本地部署CUDA11+1080Ti+显卡24G实战方案

GPT实战系列-LangChain + ChatGLM3构建天气查询助手

大模型查询工具助手之股票免费查询接口

GPT实战系列-简单聊聊LangChain

GPT实战系列-大模型为我所用之借用ChatGLM3构建查询助手

GPT实战系列-P-Tuning本地化训练ChatGLM2等LLM模型，到底做了什么？(二)

GPT实战系列-P-Tuning本地化训练ChatGLM2等LLM模型，到底做了什么？(一)