神经网络--反向传播_神经网络反向传播

作者：运维做开发 | 2024-08-18 20:22:11

踩

神经网络反向传播

以监督学习为例，假设我们有训练样本集（x,y)，那么神经网络算法能够提供一种复杂且非线性的假设模型 $h_{w,b}(x)$ ,模型具有参数w,b,可以以此参数来拟合我们的数据。

为了描述神经网络，我们从最简单的神经网络讲起，这个神经网络仅由一个“神经元”构成，输入 x=[x_1,x_2,x_3] ,偏置b=1

这里我们把激活函数f选择成sigmoid函数,其导数计算比较简单 f'(z)=f(z)(1-f(z)) ，模型输出为

$h_{w,b}(x)=f(wx+b)=sigmoid(\sum_{i=1}^{3}w_ix_i+b)$ ,

比较复杂的神经网络模型是由许多单一的“神经元”联接在一起的，

简单起见，用 z_i^l 表示第L层第i单元的输入加权和（包含偏置），比如

$z_i^2=\sum _{j=1}^nw_{ij}^1x_j+b_i^1$

用 a_i^l=f(z_i^l) 表示第L层第i单元的输出。则网络模型输出为

$h_{w,b}(x)=a^3=f(z^3)$

其中,注意下面的指数2，3表示2，3层，而不是平方或立方

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/运维做开发/article/detail/999115