赞
踩
该文档为datawhale情感分析组队学习的笔记
Github地址:team-learning-nlp/Emotional_Analysis at master · datawhalechina/team-learning-nlp (github.com)
由于循环神经网络(RNN) 通常在序列模型上表现良好,所以在第一节中,我们将选择RNN作为我们的baseline。RNN每次的输入为一个单词序列: X = { x 1 , . . . , x T } X=\{x_1, ..., x_T\} X={ x1,...,xT},并为每个输入单词输出一个隐向量: h h h。
我们通过输入当前单词的 x t x_t xt,和上一个隐藏层状态 h t − 1 h_{t-1} ht−1,来生成下一个隐藏层状态 h t h_t ht,用公式表示为:
h t = RNN ( x t , h t − 1 ) h_t = \text{RNN}(x_t, h_{t-1}) ht=RNN(xt,ht−1)
一旦当我们获得了最后一个隐藏层的输出: h T h_T hT(通过输入最后一个单词序列 x T x_T xT和前一个隐藏层状态 h T − 1 h_{T-1} hT−1获得),就可以将它输入一个线性层<
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。