当前位置:   article > 正文

自然语言处理中的语言模型简介_自然语言处理中语言模型目的

自然语言处理中语言模型目的

作者|Devyanshu Shukla 编译|Flin 来源|medium

在这篇文章中,我们将讨论关于语言模型(LM)的所有内容

  • 什么是LM
  • LM的应用
  • 如何生成LM
  • LM的评估

介绍

NLP中的语言模型是计算句子(单词序列)的概率或序列中下一个单词的概率的模型。即

句子的概率:

下一个单词的概率:

语言模型 v/s 字嵌入

语言模型常常与单词嵌入混淆。主要的区别在于,在语言模型中,单词顺序很重要,因为它试图捕捉单词之间的上下文,而在单词嵌入的情况下,只捕捉语义相似度(https://en.wikipedia.org/wiki/Semantic_similarity) ,因为它是通过预测窗口中的单词来训练的,而不管顺序如何。

语言模型的应用

语言是NLP的主要组成部分,在很多地方都有使用,比如,

  • 情感分析
  • 问答
  • 总结
  • 机器翻译
  • 语音识别
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/知新_RL/article/detail/180763
推荐阅读
相关标签
  

闽ICP备14008679号