热门标签
热门文章
- 1二叉树的建立及其递归遍历（C语言实现)_树的建立和遍历
- 22023转行要趁早！盘点网络安全的岗位汇总_2023转行网络安全知乎
- 3pom
- 4感谢这几个公众号，已拿今日头条、蚂蚁金服Offer
- 5Codeforces Round 870 (Div. 2)（A-D）_trust nobody codefoces
- 6ValueError: Only supported for TrueType fonts，生成词云图时字体报错_python valueerror: only supported for truetype fon
- 7解决Git本地文件目录不显示提交状态的问题_项目public文件下的文件没有提示git提交
- 8NLP(10)--TFIDF优劣势及其应用Demo
- 9JAVA 蓝桥杯模拟 递增序列_蓝桥杯递增序列java
- 10macOS环境安装zsh的跌跌撞撞：vscode终端修改为zsh, zsh: command not found:npm_vscode zsh:1: command not found: npm
当前位置: article > 正文
【跟马少平老师学AI】-【神经网络是怎么实现的】（九）长短期记忆网络
作者：小小林熬夜学编程 | 2024-05-04 02:46:55
赞
踩
【跟马少平老师学AI】-【神经网络是怎么实现的】（九）长短期记忆网络
一句话归纳：
1）RNN也会存在梯度消失的问题。
2）同一句话，对于不同的任务，句中不同的词起的作用也不一样。
3）LSTM（长短期记忆）子网络：
- 门，让输入经过运算，得到在[0,1]区间内的输出值。
- 元素S与门的输出进行相乘运算，便可以控制S通过的量。
4）LSTM神经网络：
- 遗忘门，输入是h(t-1),x(t)，输出f(t)。
- 前一个状态s(t-1)和遗忘门的输出相乘。
- 输入处理单元的输出和输入门相乘。
- 相加后得得到新的状态s(t)，即s(t)=f(t)*s(t-1)+g(t)*i(t)。
- 输出门的输入与遗忘门一样。
- h(t)=q(t)*tanh(s(t))。
声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/小小林熬夜学编程/article/detail/532672
推荐阅读
相关标签
