EM算法思想_em算法的核心思想

作者：weixin_40725706 | 2024-07-15 05:07:07

踩

em算法的核心思想

一、Jenson 不等式

如果 f 是凸函数，X 是随机变量，那么：

注意：特别地，如果 f 是严格凸函数，当且仅当 X 是常量时，上式取等号。

例如：

似然函数下界

其中：Z（Z1...Zk）是隐变量，它是不可观测的，

为完全数据，能观测到的x为不完全数据

注意：

通过Jensen不等式，等式两边相等的条件为X=C(常数)

于是通过Jensen不等式后的似然函数，等式两边相等的条件为

GMM的对数似然函数是

通过EM思想(隐变量，找到下边界，当下边界为最大值时，得出参数)

就是Πj，高斯分布的概率密度函数就是关于某个高斯分布下的μ和σ有关

是样本属于哪个类别

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/weixin_40725706/article/detail/827838?site