小白循环神经网络RNN LSTM 参数数量门单元 cell units timestep batch_size_循环网络参数数量

作者：不正经 | 2024-04-01 11:10:37

踩

循环网络参数数量

小白循环神经网络RNN LSTM 参数数量门单元 cell units timestep batch_size

在这里插入图片描述

先来解释一下 batch_size timestep

在这里插入图片描述

样本数据：

小明爱学习

小王爱学习

小李爱学习

小花爱学习

通常样本数据会以(batch_size, time_step, embedding_size)送入模型，对应的可以是（4，5，100）

4表示批量送入也就是（小，小，小，小）第二批是（明，王，李，花）…

5表示时间步长，一句话共5个字

100表示词嵌入的维度

$H_t = \phi(X_tW_{xh}+H_(t-1)W_{hh}+b_h)$

$X_t$ 输入假设一次输入4个字符，那么Xt的维度是4*100

$W_{xh}$ 对应的矩阵大小是 100*hidden_size

$X_tW_{xh}$ 输出大小即为4*hidden_size 也就是说W将词嵌入转换成隐藏层大小

$H_{t-1} $ 也就是 4*hidden_size

$W_{hh}$

声明：本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：【wpsshop博客】

小白循环神经网络RNN LSTM 参数数量 门单元 cell units timestep batch_size_循环网络参数数量