当前位置:   article > 正文

基于bert的排序_bert文本排序

bert文本排序

在智能客服项目中使用的是bert排序,也即基于bert的单塔模型排序,使用pointwise训练方式。
一、什么是单塔模型和双塔模型?
单塔模型是query和doc先融合,然后直接将两个特征文本输入模型,然后接多层网络,最后变成分类问题来优化。
双塔模型是query和doc分别学习一个向量表示,然后计算cos相似度。
二、learning to rank中的Pointwise方法是什么意思
pointwise将排序问题当成一个二分类问题。训练的样本被组织成为一个三元组(query, doc, y)。y为doc是否被点击。
pairwise在排序模型让正确的回答的得分明显高于错误的候选答案。训练的样例为(query, doc+, doc-), doc+是有点击的doc,doc-是无点击的doc
三、pointwise、pairwise、listwise的优缺点是什么
在这里插入图片描述

参考文献:

  • https://zhuanlan.zhihu.com/p/338826920
  • https://blog.csdn.net/jiangchao98/article/details/120646754
  • https://www.codetd.com/pt/article/13581417
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/从前慢现在也慢/article/detail/526650
推荐阅读
相关标签
  

闽ICP备14008679号