机器学习----感知器_感知器模型权重系数的学习训练过程

1,深度学习？

人工智能领域，有一个方法叫机器学习。在机器学习这个方法里，有一类算法叫神经网络。神经网络如下图所示：

1，一个圆圈就是一个神经元，神经元就是感知器
2，输入层   隐藏层  输出层 构成神经网络,而隐藏层大于2的神经网络，就是深度神经网络
3，事实上，一个仅有一个隐藏层的神经网络就能拟合任何一个函数，但是它需要很多很多的神经元
1
2
3

2，感知器?

如上图，就是一个感知器
1，可以有多个输入 x1,x2,x3,...xn
2，每个输入对应一个权值 w1,w2,w3,...wn
3，还有个偏置 b 即 w0
4，激活函数 f   激活函数可以有很多选择 比如 选择阶跃函数作为线性分类的激活函数
1
2
3
4
5

5，输出 感知器的输出由  y=f(wx+b) 来计算
1

举例：and 布尔值的判断

令：w1=0.5,w2=0.5,b=-0.8 当x1=0,x2=0时候，y=0.50+0.50-0.8=-0.8 f(-0.8)=0
x1=1,x2=1时，0.51+0.51-0.8=0.2 f(0.2)=1

3，感知器能做什么？

事实上，感知器不仅仅能实现简单的布尔运算。它可以拟合任何的线性函数，任何线性分类或线性回归问题都可以用感知器来解决。前面的布尔运算可以看作是二分类问题，即给定一个输入，输出0（属于分类0）或1（属于分类1）。

4，感知器的训练(获取权重项和偏置项)？

感知器训练方法：将权重项和偏置项初始化为0，按照上面公式，迭代修改wi和b
1，wi是xi对应的权重项，b是偏置项
2，t : 训练样本实际值  一般成为 label
3，y : 感知器的输出值 (预测值)
4，学习率,控制每一步调整权的幅度
5，每次从训练数据中取出一个样本的输入向量，使用感知器计算其输出，
再根据上面的规则来调整权重。每处理一个样本就调整一次权重。
经过多轮迭代后（即全部的训练数据被反复处理多轮），就可以训练出感知器的权重，使之实现目标函数。

1
2
3
4
5
6
7
8
9