当前位置:   article > 正文

python自然语言处理—Word2vec模型之 CBOW_pytorch 实现word2vec 连续词袋模型cbow

pytorch 实现word2vec 连续词袋模型cbow

                                                     Word2vec模型之 CBOW

 

一、CBOW 模型

    1、定义

        CBOW(Continuous Bag-of-Word Model)又称连续词袋模型,是一个三层神经网络。如斜图所示,该模型的特点是输入已知上下文,输出对当前单词的预测。

        

    2、其学习目标是最大化对数似然函数:

        

        其中 w 表示语料库中任意一个词。

    3、下面是一张更细节的图:

         

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/IT小白/article/detail/755583
推荐阅读
相关标签
  

闽ICP备14008679号