最大似然估计（MLE）_图像平移的最大似然估计

做图像处理时用到了高斯混合模型和EM，看了许多博客和书，首先将最基础的最大似然估计搞明白了。本文主要参考了 1 2这两篇博客，参考的书为概率论统计

1.最大似然估计

最大似然估计，书上的定义：一种重要而普遍的求估计量的方法。最大似然法明确地使用概率模型，其目标是寻找能够以较高概率产生观察数据的系统发生树。最大似然法是一类完全基于统计的系统发生树重建方法的代表。
感觉这种定义就是把一个简单的问题用不让一般人理解的话写了出来。用简单的话来说，最大似然估计就是利用已知的样本结果信息，反推最有可能（最大概率）导致这些样本结果出现的模型参数值。换句话说，最大似然估计提供了一种给定观察数据来评估模型参数的方法，即：模型已定，参数未知。
即当一个模型满足某一分布，它的参数值即可通过极大似然估计法求出来。比如正太分布的公式：

如果我们通过极大似然估计，得到模型参数中的μ和θ值，那么这个模型的均值和方差以及其它它的所有信息我们就得到了。
极大似然估计中采样需满足一个重要假设，就是所有的采样都是满足独立同分布的。

2. 似然函数

在统计中，似然函数和概率函数是两个不同的概念。
对于函数：

输入有两个：x表示某一个具体的数据，θ表示模型的参数
如果θ是已知的确定的，x是变量，这个函数叫做概率函数，它描述对于不同的样本点x，其出现概率是多少。
如果x是确定的，θ是变量，这个函数叫做似然函数，它描述对于不同的模型参数，出现x这个样本点的概率是多少。