维纳滤波——Wiener Filter（一些理解）

总结：

• 维纳滤波是最优的线性滤波器：滤波器就是x->h->y，h就是滤波器。这个最优的线性滤波器是维纳滤波。因为从正交性的角度出发（参见3.1节）可以推导出维纳滤波器。残差与原材料正交！
• 维纳滤波还是一种线性估计。让x(t)经过一个线性系统h(t)后，得到x(t)*h(t)=x'(t)卷积，用这个x'(t)去线性逼近Y(t)，此处就还是一个线性估计。因为$e(X'(t)-Y(t))^2$还是最小均方误差估计，在MSE的估计下的最优估计MVUE是条件期望，也就是最佳线性投影。
• 维纳滤波的Metric是最小均方误差
• 卷积是线性的，最小均方误差意义下的逼近仍然是线性逼近。（最小均方误差下的最优估计是条件期望E(Y|X)，这个就是投影（正交化），minE(Y-αX)^2，得到如下式子，这就是投影（正交化）。将Y向X上投影，其结果就是最优估计。

$\large \alpha =\frac{E(XY)}{E(X^2)}$

• 终于证明了维纳滤波的公式了，由于期望的存在，真的是功率谱。在频域是乘积，在空域就是卷积了。对（FH)'，对矩阵求偏导得到的结果是H*，且是乘积。所以再换算到空域，就是卷积共轭 *h(-x,-y)。
• 由于第二个是假设了服从高斯分布，所以Sn/Sf就简化为了$\large \sigma _n^2/\sigma _f^2$ 了

---

0. 线性估计 

补充：常用的矩阵向量求导公式，参考  矩阵&向量的求导方法推导及常用公式总结和证明(一) - 知乎

 

1. 《数字图像处理》冈萨雷斯

证明方式：参考：维纳滤波推导

• 解释为什么在空域是(f*h)'=*h(-x,-y)，为什么是卷积上共轭

  • 因为在频域中，是对$\frac{\partial (F\times H)}{\partial F}$，对矩阵求偏导得到的结果是$H^*$，且是乘积。
  • 所以再换算到空域，就是卷积共轭 $h^*(-x,-y)$

2. 贝叶斯角度的推导维纳滤波公式

 

 

中间计算过程为：

$\large {\color{Red} }\frac{\partial MAP(f)}{\partial f}=\frac{\partial exp(-\frac{(g-f*h)^2}{2\sigma_n^2}-\frac{f^2}{2\sigma_f^2})}{\partial f}$ 则继续求导为：(g-f*h)*h'/σn^2 + f/σf^2=0

然后在频域求解，即可得到（3.10）式。

2.1 关键步骤：对f*h求偏导，怎么进行的？

竟然是（g-f*h)*h'。这一步的数学说明未尽考察，从paper上就是这样来的。待进一步考证

3. 从正交性和线性估计的角度来推导维纳滤波

维纳滤波原理（Wiener Filter）

解释了2.1的疑问，卷积的微分是怎么求得的？

•  其中花体R是傅里叶变换。因为对Wiener-Hoef方程（卷积形式）进行傅里叶变换，可以得到乘积。
• Sx H = Sxs, S为功率谱密度，H为傅里叶变换。对相关的傅里叶变换是功率谱密度。

3.1 从正交性的角度来解释

这里推导出的公式跟逆滤波类似，还没有加入f的先验的部分。

 先对x(t)进行正交化，得到U(t)，让U(t)经过线性系统h2得到U^，然后去U^的一半（正的部分）去近似逼近Y(t)。

• 为什么可以去一半（正的部分）呢？
  • 因为U是正交的，因果系统只有正的部分才是有意义的
• 假定U不仅是正交的，还是单位化的。x(t)*h1(t)=U(t)，卷积的结果是Wiener-Hoef方程，