HMM（2）_前向概率和后向概率

1.前向和后向概率的关系
   （1）前向概率：${\alpha }_t(i)=P\left(y_1,y_2,\cdots y_t,q_t=i|\lambda \right)$
   （2）后向概率：${\beta }_t(i)=P\left(y_{t+1},y_{t+2},\cdots ,y_T|q_t=i,\lambda \right)$

   （3)关系：
P ( i t = q i , O ∣ λ ) = P ( O ∣ i t = q i , λ ) P ( i t = q i ∣ λ ) = P ( o 1 , ⋯ o t , o t + 1 , ⋯ o T ∣ i t = q i , λ ) P ( i t = q i ∣ λ ) = P ( o 1 , ⋯ o t ∣ i t = q i , λ ) P ( o t + 1 , ⋯ o T ∣ i t = q i , λ ) P ( i t = q i ∣ λ ) = P ( o 1 , ⋯ o t , i t = q i ∣ λ ) P ( o t + 1 , ⋯ o T ∣ i t = q i , λ ) = α t ( i ) β t ( i )

$$\begin{aligned} &P\left(i_{t}=q_{i}, O | \lambda\right)\\ &=P\left(\left.O\right|{i_{t}}=q_{i}, \lambda\right) P\left(i_{t}=q_{i} | \lambda\right)\\ &=P\left(o_{1}, \cdots o_{t}, o_{t+1}, \cdots o_{T} | i_{t}=q_{i}, \lambda\right) P\left(i_{t}=q_{i} | \lambda\right)\\ &=P\left(o_{1}, \cdots o_{t} | i_{t}=q_{i}, \lambda\right) P\left(o_{t+1}, \cdots o_{T} | i_{t}=q_{i}, \lambda\right) P\left(i_{t}=q_{i} | \lambda\right)\\ &=P\left(o_{1}, \cdots o_{t}, i_{t}=q_{i} | \lambda\right) P\left(o_{t+1},\left.\cdots o_{T}\right|i_{t}=q_{i}, \lambda\right)\\ &=\alpha_{t}(i) \beta_{t}(i) \end{aligned}$$ ​P(it​=qi​,O∣λ)=P(O∣it​=qi​,λ)P(it​=qi​∣λ)=P(o1​,⋯ot​,ot+1​,⋯oT​∣it​=qi​,λ)P(it​=qi​∣λ)=P(o1​,⋯ot​∣it​=qi​,λ)P(ot+1​,⋯oT​∣it​=qi​,λ)P(it​=qi​∣λ)=P(o1​,⋯ot​,it​=qi​∣λ)P(ot+1​,⋯oT​∣it​=qi​,λ)=αt​(i)βt​(i)​
2.单个状态的概率
   给定模型 $\lambda$以及观测序列$O$，在时刻t处于状态$q_i$的概率，记：${\gamma }_t(i)=P\left(i_t=q_i|O,\lambda \right)$
   根据前向后向概率的定义：
$$\begin{array}{c}P\left(i_t=q_i,O|\lambda \right)={\alpha }_t(i){\beta }_t(i)\\ {\gamma }_t(i)=P\left(i_t=q_i|O,\lambda \right)=\frac{P\left(i_t=q_i,O|\lambda \right)}{P(O|\lambda )}\\ {\gamma }_t(i)=\frac{{\alpha }_t(i){\beta }_t(i)}{P(O|\lambda )}=\frac{{\alpha }_t(i){\beta }_t(i)}{{\sum }_{i=1}^N{\alpha }_t(i){\beta }_t(i)}\end{array}$$
   $\gamma$的意义：
   在每个时刻t选择在该时刻最有可能出现的状态${\hat{1}}_{\mathbf{t}}^{\ast }$，从而得到一个状态序列 I ∗ = { i 1 ∗ , i 2 ∗ ⋯ i T ∗ } I^{*}=\left\{i_{1}^{*}, i_{2}^{*} \cdots i_{\mathrm{T}}^{*}\right\} I∗={i1∗​,i2∗​⋯iT∗​}，将他作为预测的结果。
   给定模型和观测序列，时刻t处于$q_i$的概率为：
$${\gamma }_t(i)=\frac{{\alpha }_t(i){\beta }_t(i)}{P(O|\lambda )}=\frac{{\alpha }_t(i){\beta }_t(i)}{{\sum }_{t=1}^N{\alpha }_t(i){\beta }_t(i)}$$
3.两个状态的概率
$$\begin{array}{c}{\xi }_t(i,j)=P\left(i_t=q_i,i_{t+1}=q_j|O,\lambda \right)\\ =\frac{P\left(i_t=q_t,i_{t+1}=q_j,O|\lambda \right)}{P(O|\lambda )}\\ =\frac{P\left(i_t=q_i,i_{t+1}=q_j,O|\lambda \right)}{{\sum }_{i=1}^N{\sum }_{j=1}^{N}P\left(i_t=q_i,i_{t+1}=q_j,O|\lambda \right)}\\ P\left(i_t=q_i,i_{t+1}=q_j,O|\lambda \right)={\alpha }_t(i)a_{ij}{b}_{j{o}_{t1}}{\beta }_{t+1}(j)\end{array}$$
4.期望
   在观测O下状态i出现的期望：
$$\sum _{t=1}^T{\gamma }_t(i)$$
   在观测O下状态i转移到状态j的期望：
$$\sum _{t=1}^{T-1}{\xi }_t(i,j)$$
5.学习算法：
   若训练数据包含观测序列和状态序列，则HMM的学习非常简单，是监督学习，若训练数据只有观测序列，则HMM的学习需要使用EM算法，是非监督学习。
   假设已给定训练数据包含S个长度相同的观测序列和对应的观测序列
{ ( O 1 , I 1 ) , ( O 2 , I 2 ) … ( O s , I s ) } \left\{\left(\mathrm{O}_{1}, \mathrm{I}_{1}\right),\left(\mathrm{O}_{2}, \mathrm{I}_{2}\right) \ldots\right. \left.\left(O_{s}, I_{s}\right)\right\} {(O1​,I1​),(O2​,I2​)…(Os​,Is​)}，那么，可以直接利用Bernoulli大数定理的结论“频率的极限是概率”，给出HMM的参数估计。
   （1）监督学习：
     初始概率：${\hat{\pi }}_i=\frac{|q_i|}{{\sum }_i|q_i|}$
     转移概率：${\hat{a}}_{ij}=\frac{|q_{ij}|}{{\sum }_{j=1}^N|q_{ij}|}$
     观测概率：${\hat{b}}_{ik}=\frac{|s_{ik}|}{{\sum }_{k=1}^M|s_{ik}|}$

   (2)Baum-Welch算法
     所有观测数据写成$\mathrm{O}=\left({\mathrm{o}}_1,{\mathrm{o}}_2\dots {\mathrm{o}}_{\mathrm{T}}\right)$，所有隐数据写成$\mathrm{I}=\left({\mathrm{i}}_1,{\mathrm{i}}_2\dots {\mathrm{i}}_{\mathrm{T}}\right)$，完全数据是$(\mathrm{O},\mathrm{I})=\left({\mathrm{o}}_1,{\mathrm{o}}_2\dots {\mathrm{o}}_{\mathrm{T}},{\mathrm{i}}_1,{\mathrm{i}}_2\dots {\mathrm{i}}_{\mathrm{T}}\right)$，完全数据的对数似然是$\ln \mathrm{P}(\mathrm{O},\mathrm{I}|\lambda )$
     假设$\bar{\lambda }$是HMM参数当前的估计值，$\lambda$是当前的参数。
$$\begin{array}{rl}& Q(\lambda ,\bar{\lambda })=\sum _I(\ln P(O,I|\lambda ))P(I|O,\bar{\lambda })\\ & =\sum _I\ln P(O,I|\lambda )\frac{P(O,I|\bar{\lambda })}{P(O,\bar{\lambda })}\\ & \propto \sum _I\ln P(O,I|\lambda )P(O,I|\bar{\lambda })\end{array}$$
     EM过程：