赞
踩
多模态交互离不开硬件载体,目前国内接了大模型体验最好的开发板应该是聆思CSK6大模型开发板了,不仅联网就可以使用官方提供的集成讯飞星火认知大模型的示例,还通过官方公开的开发文档发现基于官方现有SDK可以自主的接入其他大模型。
由上图可见,官方当前SDK方案是把开发套件当做输入端,文字或图片内容先上传到聆思的大模型平台(LSPlatform),然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能,我们如果要使用其他大模型,只需要从云端更改大模型接入节点,而无需去修改硬件端。
登陆LSPlatform,新建一个空应用,进入应用编排服务。
若提示“您要导入的某些节点已经存在于工作空间中。”,则选择“导入副本”即可。
1.修改chatGPT子流程节点参数,双击chatGPT子流程节点,可以看到可配置的参数,这里主要需要修改API-KEY Host Model Stream等参数,修改完成后点击完成即可。
配置参数
chatGPT子流程节点默认封装了访问openai的/v1/chat/completions接口,若需要调用openai其他接口则需要修改子流程节点代码。
3.测试接口,点击注入节点,会触发一次ChatGPT子流程调用,观察调试节点输出日志是否正常。
4.回到应用列表,找到并双击当前应用,在弹出的应用详情页面点击右上角分享按钮进入web对话页面。
5.在web对话面与ChatGPT进行对话
至此,可以确认ChatGPT接入成功。如果要在硬件上验证ChatGPT的交互效果可以借助聆思官方提供的聆思CSK6大模型开发板,绑定开发板硬件的操作可以参考官方提供的文档: 云端应用接入 | 聆思文档中心
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。