当前位置:   article > 正文

【NLP】词的表示方式及word embeddings代码

【NLP】词的表示方式及word embeddings代码

1.one-hot编码

  • 给每个词分配一个数字ID,如“爸爸”=1=[010],“妈妈”=2=[001]
  • 缺点(1)高维度,稀疏(2)词之间相互独立,无法表示词之间的语义

2.分布式表示

(1)基于矩阵的分布表示

  • 词的相似度转换为向量的空间距离
  • Global Vector模型

(2)基于聚类的分布表示
(3)基于神经网络的分布表示----词向量/词嵌入

  • word embedding词嵌入空间
    在这里插入图片描述
  • 把one-hot的向量空间映射到低维、浮点数表示的向量空间中。
  • 在这里插入图片描述
    在这里插入图片描述
  • 3.一般使用别人训练好的词向量,使用的语料库领域相同的。

3.word embedding代码

(1)安装gensim
gensim是处理word embeddings的python包


                
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小丑西瓜9/article/detail/366260
推荐阅读
相关标签
  

闽ICP备14008679号