LangChain：大型语言模型（LLMs）-- ChatGLM_langchain.llms chatglm

1. 介绍

LangChain 是一个领先的框架，用于构建由大型语言模型（LLM）驱动的应用程序。在这个框架内，ChatGLM 作为一个重要的组件，为用户提供了强大的双语（中文-英文）对话功能。ChatGLM 基于通用的语言模型（GLM）框架，拥有数十亿级别的参数，确保了其对话的流畅性和准确性。通过量化技术，用户甚至可以在消费级显卡上进行本地部署，大大降低了使用门槛。

随着技术的不断进步，ChatGLM 也推出了第二代版本，即 ChatGLM2-6B。它在保留了第一代模型优点的基础上，引入了更多新功能，如更好的性能、更长的上下文支持以及更高效的推理能力。这使得 ChatGLM2-6B 在处理复杂对话场景时更加游刃有余。

2. 使用说明

在使用 LangChain 与 ChatGLM 进行交互时，用户需要了解几个核心概念。首先是“链”的概念，在 LangChain 中，“链”不仅仅指单个 LLM 的调用，还包括一系列其他调用和工具集成。这为用户提供了极大的灵活性，可以根据实际需求构建各种复杂的应用程序。

此外，LangChain 还支持一系列核心模块，如模型（Models）、提示（Prompts）、记忆（Memory）等。这些模块共同构成了 LangChain 强大的功能基础。例如，通过提示（Prompts）模块，用户可以轻松地为 ChatGLM 提供上下文信息，从而引导模型生成更加符合预期的回复。

在实际使用过程中，用户还需要注意 API 密钥的设置以及环境变量的配置。这些都是确保 LangChain 与 ChatGLM 顺利交互的重要步骤。

3. 代码范例

下面是一个使用 LangChain 与 ChatGLM3-6B 进行交互的简单代码示例：

from langchain.chains import LLMChain
from langchain.schema.messages import AIMessage
from langchain_community.llms.chatglm3 import ChatGLM3
from langchain_core.prompts import PromptTemplate

# 设置提示模板
template = """{question}"""
prompt = PromptTemplate.from_template(template)

# 配置 ChatGLM3 的访问地址和其他参数
endpoint_url = "http://127.0.0.1:8000/v1/chat/completions"
messages = [
    AIMessage(content="我将从美国到中国来旅游，出行前希望了解中国的城市"),
    AIMessage(content="欢迎问我任何问题。"),
]
llm = ChatGLM3(
    endpoint_url=endpoint_url,
    max_tokens=80000,
    prefix_messages=messages,
    top_p=0.9,
)

# 构建 LLM 链并与之交互
llm_chain = LLMChain(prompt=prompt, llm=llm)
response = llm_chain.predict(input="中国的首都是哪里？")
print(response)
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26

在这个示例中，我们首先导入了必要的模块和类，然后设置了提示模板和 ChatGLM3 的访问参数。接着，我们构建了一个 LLM 链，并通过调用其 predict 方法与 ChatGLM3 进行交互。最后，我们打印出了 ChatGLM3 生成的回复。