【聆思CSK6语音大模型AI开发套件试用】聆思大模型平台的使用_csk6开发板

目录

平台简介

产品管理

应用定义

编排应用

提示词模板

知识库

---

平台简介

在前面的几篇博文中，我们已经介绍了聆思CSK6的开发板的使用和示例，今天来介绍一下云端的聆思大模型平台。聆思CSK6开发板的硬件处理能力有限，所以有些复杂的人工智能工作是在云端完成的。聆思平台(LSPlatform) 是专门为大模型进行全链路开发落地而设计的云平台。该平台可实现大模型的知识库问答，低代码应用编排，请求数据监测、提示词模板、AI应用的部署和分享等功能。有关平台的详细介绍参考：开始使用 | 聆思文档中心 (listenai.com)。

在我们设计的智能电梯应用中，有一个功能就是用户可以通过语音控制电梯所到的楼层，比如说“到4层”，电梯就会自动运行到4层。而这之中语音识别、语音合成以及对用户的语言的理解都是在云平台上完成的。开发板只是做语音的采集、上传、接收云平台的处理结果，并播放语音和显示结果。

要使用聆思平台，首先需要联系聆思的工作人员进行授权，然后进行充值操作（平台不是免费）。我的此次评测工作官方赠送了90元，相当于600万token，这对一般的开发测试来说是绰绰有余了。

有关云平台建立大模型应用，可以先参考官方文档：产品应用搭建 | 聆思文档中心 (listenai.com)。

产品管理

在"产品管理"页面里面可以创建产品，其中的产品信息的product_id和product_secret是用来唯一标识一个产品的，将来需要写到程序中。产品所对应的大模型应用将在“应用定义”一节中进行说明。

产品管理的另一个重要功能就是添加设备。设备ID是每个设备的唯一标识，我们建议使用产品序列号（SN）作为设备ID。聆思平台将只会对列表中的设备提供交互服务。平台提供10个免费测试设备ID用于产品验证阶段测试使用。

利用Lisa命令可以读取开发板的序列号（其中COMxx要改成自己的串口）：

lisa zep exec cskburn -s \\.\COMxx -C 6  -b 748800 --chip-id

应用定义

点击应用模块中的创建应用按钮。选择内部应用，并给应用命名。

编排应用

点击编排应用进入可视化应用编排界面。应用编排实际上是利用开源软件Node-Red实现的一个低代码工具，这个工具使用起来比直接调用星火大模型的API要方便的多。星火大模型API的直接调用在以前我的博文中介绍过：基于讯飞星火大模型的智能语音音箱_-CSDN博客。

有关编排应用的操作大家可以参考官方文档，

提示词模板

在与大模型交互时，提示词能控制大模型更好地达到你所期望的结果。提示词模板功能则是提供了提示工程与项目代码分离的能力，提示工程师能够在平台上轻松地编排提示词。同时功能还支持了模板变量功能，可以应用在更高级的提供工程场景。本应用中所使用的提示词在下一篇博文中将详细介绍。

知识库

讯飞星火提供了自定义知识库的能力，这样可以实现对大模型的微调，聆思也提供了同样的功能，不过在我此次的应用中没有用到这个能力。