当前位置:   article > 正文

LangChain —— Prompt Templates_langchain chatprompttemplate + messagesplaceholder

langchain chatprompttemplate + messagesplaceholder


一、什么是 Prompt Templates

 提示模板有助于将用户输入和参数转换为语言模型的指令。这可用于指导模型的响应,帮助它理解上下文并生成相关和连贯的基于语言的输出。
 提示模板将字典作为输入,其中 每个键 表示提示模板中要填写的 变量

 提示模板输出提示 PromptValue 值。此 PromptValue 可以传递给 LLM 或 ChatModel,也可以转换为 字符串消息列表。此 PromptValue 存在的原因是便于在字符串和消息之间切换。

 有几种不同类型的提示模板:

1、String PromptTemplates

 这种提示模板用于 格式化单个字符串,通常用于更简单的输入。例如,构造和使用PromptTemplate的常见方法如下:

from langchain_core.prompts import PromptTemplate

prompt_template = PromptTemplate.from_template("Tell me a joke about {topic}")

prompt_template.invoke({"topic": "cats"})
  • 1
  • 2
  • 3
  • 4
  • 5

2、ChatPromptTemplates

 这些提示模板用于格式化消息列表。这些“模板”由模板本身的列表组成。例如,构造和使用ChatPromptTemplate的常见方法如下:

from langchain_core.prompts import ChatPromptTemplate

prompt_template = ChatPromptTemplate.from_messages([
    ("system", "You are a helpful assistant"),
    ("user", "Tell me a joke about {topic}")
])

prompt_template.invoke({"topic": "cats"})
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8

 在上面的示例中,此 ChatPromptTemplate 在调用时将构造两条消息。第一个是 SystemMessage,它没有要格式化的变量。第二个是 HumanMessage,将由用户传入的 topic 变量进行格式化。

3、MessagesPlaceholder 留言占位符

 此提示模板负责在特定位置添加消息列表。
 在上面的 ChatPromptTemplate 中,我们看到了如何格式化两条消息,每条消息都是字符串。但是,如果我们想让用户传入一个消息列表,并且要把它们放在一个特定的位置呢?这就需要使用 MessagesPlaceholder 的方法。

from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain_core.messages import HumanMessage

prompt_template = ChatPromptTemplate.from_messages([
    ("system", "You are a helpful assistant"),
    MessagesPlaceholder("msgs")
])

prompt_template.invoke({"msgs": [HumanMessage(content="hi!")]})
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9

 这将生成一个包含两条消息的列表,第一条是 SystemMessage,第二条是我们传入的 HumanMessage。如果我们传入了5条消息,那么它总共会产生6条消息 (系统消息加上传入的5条消息)。这对于将消息列表放入特定位置非常有用。

 在不显式使用 MessagesPalaceholder 类的情况下,完成相同任务的另一种方法是:

prompt_template = ChatPromptTemplate.from_messages([
    ("system", "You are a helpful assistant"),
    ("placeholder", "{msgs}") # <-- This is the changed part
])
  • 1
  • 2
  • 3
  • 4

二、如何使用 Prompt Templates

 Prompt Templates (提示模板),负责将用户输入格式化为可以传递给语言模型的格式。

1、使用几个简短示例

 跳转到另一篇文章 How to use few shot examples

2、在 chat model 中使用几个简短示例

 跳转到另一篇文章 How to use few shot examples in chat models

3、部分格式化提示模板

 跳转到另一篇文章 How to partially format prompt templates

4、一起编写提示

 跳转到另一篇文章 How to compose prompts together

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小舞很执着/article/detail/991481
推荐阅读
相关标签
  

闽ICP备14008679号