参数估计方法整理

参数估计：是根据从总体中抽取的样本估计总体分布中包含的未知参数的方法。

参数估计包括点估计和区间估计。

常见点估计方法：矩估计、最小二乘估计、极大似然估计、贝叶斯估计

区间估计：利用已知的抽样分布、利用区间估计与假设检验的联系、利用大样本理论

一、点估计
1、矩估计

矩估计法的理论依据是大数定律。矩估计是基于一种简单的“替换”思想，即用样本矩估计总体矩
优点：简单易行, 并不需要事先知道总体是什么分布。（根据均值方差来计算未知参数）
缺点：当总体类型已知时，没有充分利用分布提供的信息（有一定随意性）

2、最小二乘估计
对于最小二乘估计来说，最合理的参数估计量应该使得模型能最好地拟合样本数据，也就是估计值与观测值之差的平方和最小。
目标最小化估计值与观测值之差的平方和。Q表示误差平方和，Yi表示估计值，Ŷ i表示观测值，即Q=∑(Yi−Ŷ i)^2 i = 1,2,……,n

3、极大似然估计
对于最大似然估计来说，最合理的参数估计量应该使得从模型中抽取该n组样本的观测值的概率最大，也就是概率分布函数或者似然函数最大。

典型例题：

4、贝叶斯估计

二、区间估计

区间估计 = 点估计 ± 边际误差
根据样本求出未知参数的估计区间，并使这个区间包含未知参数的可靠程度达到预定要求（这个预定要求就是个置信度，用上α位分点来体现这个置信度）。

步骤：

1.构造合适的包含待估参数的统计量U，且统计量的分布已知。

2.根据给定的置信度，按照P（U1