时间递归神经网络

今晚四个小时，为了梳理复习神经网络的基本算法，通过维基百科的描述，慢慢看下来。

有一些收货，做一些笔记，手写识别是最早成功利用RNN的研究成果。

在实际工作中的要求是：

熟悉CNN、RNN，LSTM等深度神经网络模型，并掌握其相关的优化调参方法；

基本的框架和从中提取的关键词如下：

编码器

解码器

双向读取

隐藏状态

自然语言处理

还有条件概率

概率在实际生活中，一切都有一个概率。这些编码解码我就想起大三上上范老师的信息论与编码，但是这两个不一样，但是都是用到各种条件概率，各种熵，包含的信息量，去做一个判断。