神经网络Loss损失函数总结_神经网络loss值是什么意思

作者：你好赵伟 | 2024-08-07 19:39:23

踩

神经网络loss值是什么意思

softmax 交叉熵损失函数是我们常用的一种损失函数，其公式如下：

E (t, y) = - \sum_{j} t_{j} \log y_{j}

$E(t, y)=-\sum_j t_j \log y_j$
其中， t 和 y 分别表示神经网络的目标标签和输出，

y_{j}

$y_j$ 表示softmax损失函数：

y_{j} = s o f t m a x (z_{j}) = \frac{e^{z_{j}}}{\sum_{j} e^{z_{j}}}

$y_j=softmax(z_j)=\frac{e^{z_j}}{\sum_j e^{z_j}}$

需要注意的一点就是这个公式需要输入没有经过缩放变换的logits，还有就是使用本目标损失函数的时候不要在网络的最后一层使用softmax层或者激活函数，会导致结果不正确。

交叉熵损失函数是也是常用的一种损失函数，它表示预测值y与目标值t之间的距离。主要应用在互相排斥的分类任务中，公式为：

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/你好赵伟/article/detail/944205