前馈神经网络（Feedforward Neural Network, FNN）（小白可入）

前馈神经网络（Feedforward Neural Network, FNN）

前馈神经网络（Feedforward Neural Network, FNN）是一种最基本的人工神经网络结构，在这种网络中，信息从输入层通过隐藏层传播到输出层，并且各层神经元之间没有反馈连接。前馈神经网络广泛应用于各种任务，如分类、回归、特征提取等。

1. 基本结构

前馈神经网络由多个层组成，主要包括输入层、隐藏层和输出层。每一层由若干神经元（节点）组成，每个神经元与前一层的所有神经元连接。

• 输入层：接受外部输入数据，通常每个输入特征对应一个神经元。
• 隐藏层：位于输入层和输出层之间，可以有一个或多个隐藏层。每个隐藏层的神经元通过权重连接和激活函数处理输入数据。
• 输出层：产生最终的输出结果，通常输出神经元的数量和任务类型（如分类或回归）相关。

2. 工作原理

前馈神经网络的工作流程主要包括前向传播和反向传播两个阶段。

前向传播（Forward Propagation）

1. 输入数据：输入层接收原始数据，并将其传递给第一个隐藏层。
2. 隐藏层计算：
   • 每个隐藏层神经元接收来自上一层的输入，计算加权和，并加上一个偏置（bias）。
   • 计算结果通过激活函数（activation function）进行非线性变换。
   • 激活函数常用的有ReLU、Sigmoid和Tanh等。

3. 输出层计算：隐藏层的输出作为输入传递给下一层，直到到达输出层，最终输出结果。

反向传播（Backward Propagation）

1. 计算损失：通过损失函数（loss function）计算预测输出和真实标签之间的误差。
   常见的损失函数有均方误差（MSE）和交叉熵（Cross-Entropy）。

2. 梯度计算：通过链式法则计算损失函数相对于每个权重和偏置的梯度。

3. 权重更新：使用梯度下降算法更新每个权重和偏置，减少误差。
   

3. 举例说明

假设我们构建一个简单的前馈神经网络用于分类任务。输入层有3个神经元，隐藏层有4个神经元，输出层有2个神经元（用于二分类）。

1. 输入层：

   • 输入向量X = [x₁, x₂, x₃])

2. 隐藏层：
   

3. 输出层：
   

4. 应用场景

前馈神经网络广泛应用于各种任务，包括但不限于：

• 图像分类：通过卷积层提取图像特征后，使用前馈神经网络进行分类。
• 文本分类：通过嵌入层将文本转换为向量后，使用前馈神经网络进行分类。
• 回归分析：预测连续值，如房价预测、股票价格预测。
• 特征提取：在复杂网络结构中，前馈神经网络可以用于提取和处理特征。

总结

前馈神经网络是神经网络中的基础结构，通过输入层、隐藏层和输出层逐层传播信息，并通过前向传播和反向传播进行训练。前馈神经网络的灵活性和强大的学习能力使其在许多领域得到了广泛应用。