假设与检验_假设检验

假设检验

公众号：ChallengeHub(机器学习，NLP，推荐系统，数据分析)
(欢迎大家关注)

​ 假设检验是统计推断的一种重要形式，其任务是通过样本对未知的总体分布特征作出合理的推断。先对总体分布中的某些参数或者对总体分布类型做某种假设，然后根据样本值做出接受还是拒绝所做假设的结论。

相关概念

原问题假设

问题假设是做假设检验的第一步，一般讲要检验的假设称为原假设，记为: $H_0$,则另外一个为备选假设，指拒绝原假设时的假设，记为：$H_1$。

假设一般分为双边假设和单边假设。

双边假设：$H_0:\mu ={\mu }_0$, $H_1:\mu \ne {\mu }_0$

单边假设：$H_0:\mu \le {\mu }_0$, $H_0:\mu >{\mu }_0$

拒绝域与接受域

两类错误

第一类错误(弃真错误)，原假设$H_0$为真，但是检验出的拒绝原假设，其概率为$\alpha$,
P { 拒 绝 H 0 ∣ H 0 为 真 } = α P\{拒绝H_0|H_0为真\}=\alpha P{拒绝H0​∣H0​为真}=α
第二类错误(存伪错误)，原假设$H_0$为假，但是检验出的接受了原假设，其概率为$\beta$,
P { 接 受 H 0 ∣ H 0 为 假 } = β P\{接受H_0|H_0为假\}=\beta P{接受H0​∣H0​为假}=β
一般来说两种错误是相互矛盾的，不能同时降低两种错误，因此一般在限制$\alpha$的情况下，尽可能地降低$\beta$的值。

基本思想

小概率事件在一次的实验中是不可能发生的。

如果原假设成立，那么某个分布已知的统计量在**某个区域(拒绝域)内取值的概率$\alpha$(检验水平)**应该较小，如果样本的观测数值落在这个小概率区域内，则原假设不正确，所以，拒绝原假设，否则，接受原假设。

基本步骤

第一步：问题假设

根据实际问题提出原假设$H_0$和备选假设$H_1$，其中$H_0$和$H_1$是相互对立的。

例如：如$H_0:\mu ={\mu }_0$, $H_0:\mu \ne {\mu }_0$

这种为双边检验

第二步：选取检验统计量

选取一个合适的检验统计量，并根据原假设$H_0$和备选假设$H_1$确定$H_0$的拒绝域

在根据上一步的假设，有：
P { ∣ μ ∣ < μ α 2 } = 1 − α P\{|\mu|<\mu_{\frac {\alpha}{2}}\}=1-\alpha P{∣μ∣<μ2α​​}=1−α
或者
P { ∣ μ ∣ > μ α 2 } = α P\{|\mu|>\mu_{\frac {\alpha}{2}}\}=\alpha P{∣μ∣>μ2α​​}=α
则可以确定$(-\inf ,-{\mu }_{\frac{\alpha }{2}})\cup ({\mu }_{\frac{\alpha }{2}},\inf )$ 为 $H_0$的拒绝域，而$(-{\mu }_{\frac{\alpha }{2}},{\mu }_{\frac{\alpha }{2}})$ 为$H_0$的接受域，${\mu }_{\frac{\alpha }{2}}$称为临界值。

第三步：给定显著性水平

一般$\alpha$的取值为0.05,0.01,0.10等。

第四步：计算检验统计量的具体值

第五步：做出判断

相关练习

单个正态总体的假设检验

设总体$X\sim N(\mu ,{\sigma }^2)$, $X_1,X_2...,X_n$是取自总体的样本，$\overline{X},S^2$为样本均值和方差，$\alpha$为显著性水平。

方差已知，均值检验($\mu$检验法)

1：双边检验

假设：$H_0:\mu ={\mu }_0$, $H_0:\mu \ne {\mu }_0$

取检验统计量$U=\frac{\overline{X}-{\mu }_0}{\frac{\sigma }{\sqrt{n}}}$, 当$H_0$成立时，$U=\frac{\overline{X}-{\mu }_0}{\frac{\sigma }{\sqrt{n}}}\sim N(0,1)$。

对于给定的$\alpha$，查正态分布表，使得
P { ∣ μ ∣ > μ α 2 } = α P\{|\mu|>\mu_{\frac{\alpha}{2}}\}=\alpha P{∣μ∣>μ2α​​}=α
于是得到$H_0$的拒绝域为$(-\inf ,-{\mu }_{\frac{\alpha }{2}})\cup ({\mu }_{\frac{\alpha }{2}},\inf )$。

2：单边检验

假设：$H_0:\mu ={\mu }_0$, $H_0:\mu >{\mu }_0$

当$H_0$成立时，$U=\frac{\overline{X}-{\mu }_0}{\frac{\sigma }{\sqrt{n}}}\sim N(0,1)$。

当$H_0$成立时，$\mu$的值不应该很大，而当$H_1$成立时，$\mu$的值往往偏大。

因此，公式
P { ∣ μ ∣ > μ α } = α P\{|\mu|>\mu_{\alpha}\}=\alpha P{∣μ∣>μα​}=α
于是得到拒绝域为$({\mu }_{\alpha },\inf )$。

类似的，若$H_1:\mu <{\mu }_0$

可以得到$H_0$的拒绝域为$(-\inf ,-{\mu }_{\alpha })$

3：例题

例1 由经验知某个零件的重量$X\sim N(\mu ,{\sigma }^2)$, $\mu =15$, $\sigma =0.05$; 技术革新后，抽出6个零件，测得的重量为14.7, 15.1, 14.8, 15.0, 15.2, 14.6。已知方差不变，试统计推断，平均重量是否还是15克。($\alpha =0.05$)

解：

假设：$H_0:\mu =15$, $H_0:\mu \ne 15$

构造$U$统计量，得到$U$的0.05双侧分位数为${\mu }_{0.025}=1.96$。

样本的均值为$\overline{x}=14.9$

因此$U$统计量的观测值为$|U|=|\frac{\overline{x}-15}{0.05/\sqrt{6}}|=4.9$

由于4.9大于1.96，即观测值落在拒绝域内，所以拒绝原假设。

方差未知，均值检验($t$检验)

1：双边检验

假设：$H_0:\mu ={\mu }_0$, $H_0:\mu \ne {\mu }_0$

此时，整体${\sigma }^2$未知，不能采用$U=\frac{\overline{X}-{\mu }_0}{\frac{\sigma }{\sqrt{n}}}$, 因此需要用样本的方差来代替总体方差，

$T=\frac{\overline{X}-{\mu }_0}{\frac{S}{\sqrt{n}}}$, 当$H_0$成立时，$U=\frac{\overline{X}-{\mu }_0}{\frac{S}{\sqrt{n}}}\sim t(0,1)$。

对于给定的$\alpha$，查$t$分布表，使得
P { ∣ t ∣ > t α 2 ( n − 1 ) } = α P\{|t|>t_{\frac{\alpha}{2}}(n-1)\}=\alpha P{∣t∣>t2α​​(n−1)}=α
于是得到$H_0$的拒绝域为$(-\inf ,-t_{\frac{\alpha }{2}}(n-1)\cup (t_{\frac{\alpha }{2}}(n-1),\inf )$。

2：单边检验

假设：$H_0:\mu ={\mu }_0$, $H_0:\mu <{\mu }_0$

可得到的$H_0$的拒绝域为$(-\inf ,-t_{\frac{\alpha }{2}}(n-1)$

3：例题

例2 化工厂用自动包装机包装化肥，每包重量服从正态分布，额定的重量为100千克。随机抽取了9袋化肥，发现均值为99.978，均方差为1.212，能否认为这天的化肥装机正常？$(\alpha =0.1)$

解：由于方差未知，采用$T$检验法

假设：$H_0:\mu =100$, $H_0:\mu \ne 100$

构建$T$统计量，得到$T$的0.1双侧分位数为
$$t_{0.05}(8)=1.86$$
$T$统计量的观测值为
$$|T|=\frac{|\overline{x}-\mu |}{S/\sqrt{n}}=|\frac{99.978-100}{1.212/\sqrt{9}}|=0.0545$$
因此0.0545小于1.86，因此接受原假设，今天的包装机工作正常。

方差${\sigma }^2$检验(${\chi }^2$检验)

假设：$H_0:{\sigma }^2={\sigma }_0^2$, $H_0:{\sigma }^2\ne {\sigma }_0^2$

检验统计量
$${\chi }^2=\frac{(n-1)S^2}{{\sigma }_0^2}$$
当$H_0$成立时
$${\chi }^2=\frac{(n-1)S^2}{{\sigma }_0^2}\sim {\chi }^2(n-1)$$
例1 服从正态分布，抽取数为4.421，4.052，4.357，4.287，4.683，判断方差是否仍为0.108^2$(\alpha =0.05)$

解：均值未知，的方差检验，用${\chi }^2$检验法

假设：$H_0:{\sigma }^2=0.108^2$, $H_0:{\sigma }^2\ne 0.108^2$

由$\alpha =0.05$，得到临界值
$${\chi }_{0.975}^2(4)=0.048,{\chi }_{0.025}^2(4)=11.14$$
${\chi }^2$统计量的观测值为17.8543

因为 17.8543>11.14

所以拒绝原假设

两个正态总体的比较

假设总体$X\sim N({\mu }_1,{\sigma }_1^2)，Y\sim N({\mu }_2,{\sigma }_2^2)$, $X_1,X_2...,X_n,Y_1,Y_2...,Y_n$是取自总体的样本。

有：

$\overline{X}=\frac{1}{n}{\sum }_{i=1}^n{X}_i$, $S_1^2=\frac{1}{n-1}\sum (X_i-\overline{X}{)}^2$

$\overline{Y}=\frac{1}{m}\sum (Y_i)$, $S_2^2=\frac{1}{m-1}\sum (Y_i-\overline{Y})$

两个样本相同独立

方差已知，均值检验($\mu$检验法)

假设：$H_0:{\mu }_1={\mu }_2$, $H_0:{\mu }_1\ne {\mu }_2$

估计两个样本的均值是否相等，即${\mu }_1-{\mu }_2=0$。

$E(\overline{X}-\overline{Y})={\mu }_1-{\mu }_2$

$D(\overline{X}-\overline{Y})=\frac{{\sigma }_1^2}{n}+\frac{{\sigma }_2^2}{m}$

因此$\overline{X}-\overline{Y}\sim N({\mu }_1-{\mu }_2,\frac{{\sigma }_1^2}{n}+\frac{{\sigma }_2^2}{m})$

当原假设成立的时候，用检验假设统计量
$$U=\frac{(\overline{X}-\overline{Y})}{\sqrt{\frac{{\sigma }_1^2}{n}+\frac{{\sigma }_2^2}{m}}}\sim N(0,1)$$
给定的$\alpha$，查正态表使得 P { ∣ μ ∣ > μ α 2 } = α P\{|\mu|>\mu_{\frac {\alpha}{2}}\}=\alpha P{∣μ∣>μ2α​​}=α

从而可以得到拒绝域为$(-\inf ,-{\mu }_{\frac{\alpha }{2}})\cup ({\mu }_{\frac{\alpha }{2}},\inf )$。

方差未知，均值检验($\mu$检验法)

使用样本的方差代替总体的方差（为什么会有强调两种方差相等？）

$T=\frac{(\overline{X}-\overline{Y})}{\sqrt{\frac{(n-1)S_1^2+(m-1)S_2^2}{n+m-2}\sqrt{\frac{1}{n}+\frac{1}{m}}}}\sim t(n+m-2)$

例题

甲：25 28 23 26 29 22

乙：28 23 30 25 21 27

服从正态分布，方差相等且未知$(\alpha =0.05)$

方差的检验

假设：$H_0:{\sigma }^2={\sigma }_0^2$, $H_0:{\sigma }^2\ne {\sigma }_0^2$

检验统计量$F=\frac{S_1^2}{S_2^2}$

当$H_0$成立时，$F\sim F(n-1,m-1)$

$S_1^2,S_2^2是{\sigma }_1^2,{\sigma }_2^2$的无偏估计，因此当$H_0$成立，$F$的值应该接近于1。