当前位置:   article > 正文

百度灵境矩阵套件说明_如何在灵境矩阵创建一个大模型链

如何在灵境矩阵创建一个大模型链

套件说明

套件是应用流程的构建块。它们由定义其功能的输入、输出和参数组成,为构建AI原生应用程序提供了一种方便、直接的方法。

套件操作:

在流程创建过程中,您会注意到连接到套件一侧或两侧的连接点(蓝色圆形或紫色菱形)。这些连接点代表连接到其他套件的可用性,将鼠标悬停在连接点上可查看连接详细信息。其中紫色菱形代表链与链的连接点,左侧为输入,右侧为输出;蓝色圆形代表链与其他套件,或其他套件之间的连接点,左侧为输入,右侧为输出。

示例说明:

如果您选择一个大模型链套件,您将看到蓝色 ○ 和紫色 ◇ 连接点。它们表明该链套件接受模型和提示词套件作为输入,红色星号 * 表示必须连接该类型的输入;同时接受与其他的链通过紫色 ◇ 连接。

在右上角,您将找到套件状态图标。在建立必要的连接,发起测试并验证通过后,每个已验证套件的状态应呈绿色;当验证失败时遇到错误的套件的状态应呈红色,将鼠标悬停在失败状态上可显示检测到的错误。

SEO

套件列表

套件分类套件名称套件简介参数说明
链(Chains)大模型链(LLMChain)大模型链(LLMChain)是一种链式结构,它将多个输入转化为模型提示,并可进一步格式化输出1)输入连接点:模型、提示词
2)输出连接点:无
3)配置项:
• 传入对话历史记录:开关,控制是否要将历史对话记录传入模型作为上下文
• 输出关键词:非必填,设置链的输出结果说明
4)链连接点:有链输入/输出连接点,可以与其他任意链相连。
分支链(RouterChain)分支链(RouterChain)的主要功能是动态选择下一个要调用的链,可以根据输入内容路由到不同的子链1)输入连接点:模型、提示词
2)输出连接点:无
3)配置项:
• 传入对话历史记录:开关,控制是否要将历史对话记录传入模型作为上下文
• 输出关键词:非必填,设置链的输出结果说明
4)链连接点:
• 链输入连接点:可以与其他任意链相连
• 链输出连接点:需要配置意图,每个意图对应一个链输出连接点
• 意图:必填,支持添加多条。用来表达不同的意图对应关系,基于意图分流到其他子链
检索链(RetrievalChain)检索链(RetrievalChain)可调用知识库文件,并基于模型能力进行查询1)输入连接点:模型、提示词、知识库
2)输出连接点:无
3)配置项:
• 传入对话历史记录:开关,控制是否要将历史对话记录传入模型作为上下文
• 输出关键词:非必填,设置链的输出结果说明
4)链连接点:有链输入/输出连接点,可以与其他任意链相连
工具链(ToolChain)工具链(ToolChain)可调用工具进行查询1)输入连接点:工具
2)输出连接点:无
3)配置项:
• 输出关键词:非必填,设置链的输出结果说明
4)链连接点:有链输入/输出连接点,可以与其他任意链相连
提问链(AskChain)提问链(AskChain)用于指定意图,调用提问组件引导用户补充提问1)输入连接点:提问气泡
2)输出连接点:无
3)配置项:
• 强制意图:必填,设置用户按照引导完成补充提问后,模型应该执行的意图
4)链连接点:有链输入连接点,可以与其他任意链相连;无链输出连接点
提示词(Prompts)提示词模板(PromptTemplate)提示词模板(PromptTemplate)用于创建提示并定义输出格式,作为指令提供给模型1)输入连接点:无
2)输出连接点:链(支持大模型链、分支链、检索链)
3)配置项:
• 模板:必填,您可以创建提示模板并定义变量来控制指示模型。变量可用于定义模型的指令、问题、上下文、输入或示例,并且可以使用大括号中的任何选定名称来创建,例如`{variable_name}`。它们充当可以轻松修改的文本部分的占位符。在交互式流程中,可以可以使用默认变量 {_input_} 来充当用户的聊天输入)
• 输出格式:您可以使用 json 编辑器编写内容,来指定回答结果的输出格式
模型(Models)文心模型(ERNIE)文心一言(ERNIE)是百度发布的知识增强大语言模型1)输入连接点:无
2)输出连接点:链(支持大模型链、分支链、检索链)
3)配置项:
• 模型名称:目前可选ERNIE-bot、ERNIE-bot-turbo:
• 温度:即 Temperature,较高的数值会使输出更加随机,而较低的数值会使其更加集中和确定
• 多样性:即 Top-P,较高的数值会使输出结果更加多样和小众,而较低的数值会使其更加靠近大众认知
知识库(KnowledgeBase)数据集(VectorStore)数据集(VectorStore)用于调用您已上传并完成处理的数据文件,作为模型查询的来源1)输入连接点:无
2)输出连接点:检索链
3)配置项:
• 数据集选择:您可以在此选择已经上传并处理成功的数据集,或点击“新建”跳转至数据集管理模块进行新增。注意,只有已处理成功的数据集才会展示在列表中供选择
工具(Tools)HTTP 请求工具(RequestTool)HTTP 请求工具(RequestTool),用于发起请求并返回结果1)输入连接点:无
2)输出连接点:工具链
3)配置项:
• 请求链接:必填,请求的 URL
• 请求方法:目前平台支持 GET 和 POST 方法,更多方法敬请期待
• Headers:可通过 key-value 的形式输入
• Query:可通过 key-value 的形式输入
• Body:可通过 json 编辑器输入
百度搜索工具(BaiduSearchTool)百度搜索工具(BaiduSearchTool),用于查询百度搜索结果,返回结果标题、链接、摘要等内容1)输入连接点:无
2)输出连接点:工具链
3)配置项:
• 搜索词:必填,输入需要请求百度搜索的关键词
气泡交互组件(MessageUI)提问气泡(AskUI)提问气泡(AskUI)提供了一系列 GUI 组件,以更直观的方式引导用户提问1)输入连接点:无
2)输出连接点:提问链
3)配置项:
• 组件选择:必填,用于选择要使用的 UI 组件,目前仅提供 “选择器”,更多组件完善中,敬请期待
• 组件配置:必填,配置内容与组件类型关联,现介绍选择器配置如下:
    • 标题:需要用户补充输入的问题
    • 选项:最多可添加 6 个选项,目前仅支持单选
• 输出变量:必填,设置提问气泡组件输出结果的变量名称,可用于被下游或提示词模板中引用,默认值为 “value”
• 提示词模板:必填,您可以创建提示模板并定义变量来控制指示模型。变量可用于定义模型的指令、问题、上下文、输入或示例,并且可以使用大括号中的任何选定名称来创建,例如`{variable_name}`。它们充当可以轻松修改的文本部分的占位符。在交互式流程中,可以使用默认变量 {_input_} 来充当用户的聊天输入)
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小蓝xlanll/article/detail/396644
推荐阅读
相关标签
  

闽ICP备14008679号