fasttext的原理剖析_fasttext原理解析

fastText的原理剖析

• 1. fastText的模型架构
• • 1.1 N-garm的理解
  • • 1.1.1 bag of word
    • 1.1.2 N-gram模型
• 2. fastText中的层次化的softmax-对传统softmax的优化方法1
• • 2.1 哈夫曼树
  • • 2.1.1 哈夫曼树的定义
    • 2.1.2 哈夫曼树的相关概念
    • 2.1.3 哈夫曼树的构造算法
  • 2.2 哈夫曼编码
  • • 2.2.1 哈夫曼编码
  • 2.3 梯度计算