赞
踩
所谓意图识别就是分析用户的请求,将其进行分类,从而将用户的请求路由到对应的服务,由专门的服务解决对应的问题。
这其实是一种让步,因为在大模型实际的应用中,为了能够使某一个功能的效果做的很好,我们必须要深入的做很多的开发适配,从而构造更加完美的Prompt。如果不做任何特殊处理,所有的用户请求都走同一个Prompt,其实效果不是特别好。
可以把意图识别当做一个路由器。
举一个例子:当我们在使用ChatGPT对话时,有可能需要进行网络检索,然后根据检索结果,回答我们的问题,那么识别出需要进行网络检索的这个过程就是意图识别。
使用轻量级的预训练大模型,我们只需要构造合适的Prompt,然后请求模型服务即可。比如使用Ernie-Bot。
这种实现方式的好处就是开发成本低,能够适应大多数场景,不需要自己进行模型的训练、部署。
但是不好的方面是,预训练模型可能在私域知识方面效果不够好,识别存在偏差;另外就是模型响应速度可能较慢,影响用户体验。
鉴于上面提到的私域知识场景和响应时长的问题,我们可以使用自己训练的小模型来完成意图识别。这时候我们需要准备训练数据,然后对模型进行训练,这种方式能够将私域知识融入模型,而且因为模型较小,响应速度快、成本低。
帮忙点一下,不花钱的VIP领一个吧~:Baidu Comate · 领取季卡
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。