递归神经网络(Recursive Neural Network)_recursive neural network (rvnn)

作者：神奇cpp | 2024-07-03 09:28:01

踩

recursive neural network (rvnn)

递归神经网络(Recursive Neural Network)

Recursive Neural Networks.

递归神经网络（Recursive Neural Network）是循环神经网络在有向无环图上的扩展。

下图是递归神经网络的一般结构：

网络有三个隐藏层$h_1,h_2,h_3$，共用函数体的参数，计算关系如下：

h_{1} = σ (W [\begin{matrix} x_{1} x_{2} \end{matrix}] + b)

$h_1 = σ(W \begin{bmatrix} x_1 \ x_2 \ \end{bmatrix}+b)$

h_{2} = σ (W [\begin{matrix} x_{3} x_{4} \end{matrix}] + b)

$h_2 = σ(W \begin{bmatrix} x_3 \ x_4 \ \end{bmatrix}+b)$

h_{3} = σ (W [\begin{matrix} h_{1} h_{2} \end{matrix}] + b)

$h_3 = σ(W \begin{bmatrix} h_1 \ h_2 \ \end{bmatrix}+b)$

y = f (W^{'} h_{3} + b^{'})

$y = f(W'h_3+b')$

递归神经网络主要用来建模自然语言句子的语义。

给定一个句子的语法结构（一般为树状结构），可以使用递归神经网络来按照句法的组合关系来合成一个句子的语义。

句子中每个短语成分又可以分成一些子成分，即每个短语的语义都可以由它的子成分语义组合而来，并进而合成整句的语义。

递归神经网络可以退化为循环神经网络：

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/神奇cpp/article/detail/782620