这个屌丝很懒，什么也没留下！

深度学习学习日记4.8(上午)信息量，熵，交叉熵，相对熵，交叉熵损失函数

作者：你好赵伟 | 2024-04-09 17:55:43

在这里插入图片描述

概率和信息量负相关 小概率事件有较大的信息量，大概率事件有较小的信息量

在这里插入图片描述
熵是概率分布的信息量期望

当预测结果越接近真实值，损失函数的值越接近于0。

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/你好赵伟/article/detail/394314