自然语言处理技术博客

作者：喵喵爱编程 | 2024-07-14 04:30:14

踩

自然语言处理技术博客

1*实验4：自然语言处理前馈网络(使用MLP)

1.MLP的基本概念

多层感知器(MLP)被认为是最基本的神经网络构建模块之一。MLP可以被看作是一个有向图，由多个的节点层所组成，每一层都全连接到下一层。除了输入节点，每个节点都是一个带有非线性激活函数的神经元。使用反向传播算法的监督学习方法用来训练MLP。MLP是感知器的推广，克服了感知器不能对线性不可分数据进行识别的弱点。多层感知器可以实现非线性判别式，如果用于回归可以逼近输入的非线性函数。且具有连续输入和输出的任何函数都可以用MLP近似。具有一个隐藏层的MLP可以学习输入的任意非线性函数（隐藏节点个数不限)。

2.MLP的基本框架

2.1感知器

每个感知器单元有一个输入(x),一个输出(y),和三个“旋钮”（knobs）:一组权重(w),偏量(b),和一个激活函数(f)。权重和偏量都从数据学习,激活函数是精心挑选的取决于网络的网络设计师的直觉和目标输出。

数学上，我们可以这样表示：

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/喵喵爱编程/article/detail/823147