一分钟学会神经网络2——Softmax函数详解_神经网络softmax函数

Softmax函数又被称为归一化指数函数。它是二分类函数sigmoid在多分类上的推广，作用是将多分类的结果以概率的形式展现出来。下图是softmax的计算方法。

为什么 Softmax是这种形式的呢？

因为概率的两个性质：(1) 预测得到的概率为非负数；(2) 各种预测结果的概率之和等于1。

Softmax就是将在负无穷到正无穷上的预测结果按照这两步转换为概率的。

1.将预测结果转化为非负数

softmax第一步就是将模型的预测结果转化到指数函数exp上，这样就保证了概率的非负性。

2.确保概率之和等于1

我们只需要将转换后的结果进行归一化处理就可以。将转化后的结果除以所有转化后结果之和，这样就得到了近似概率。

总结：

1. 分子：通过exp指数函数，将输出映射到零到正无穷。
2. 分母：将所有结果相加，进行归一化。