变分自动编码器（VAE）深入理解与总结_vae编码器

0 引言

VAE自2013年公开论文起诞生已有十多年，最近几年VAE类型的模型在图象生成领域应用较多，也是Diffusion扩散模型的基础，例如DALL-E3、Stable Diffusion及今年OpenAI发布的Sora都是建立在VAE的基础之上。此外，在音频、文本生成领域也有广泛应用，是深度学习中最为重要的技术之一。ICLR2024评选的首个时间检验奖在5月初公布，冠军颁给了《Auto-Encoding Variational Bayes》，这篇是经典VAE算法的原始论文，是关于一种变分推断和学习的算法，由Diederik P. Kingma和Max Welling撰写（DP Kingma不仅在生成模型和概率模型上有深入研究，还是大名鼎鼎的Adam Optimizer的作者，Max Welling除了研究概率模型之外，作为一个Graph Mining工作者，著名的GCN就是他和他的另一个学生TN Kipf提出的）。文章在2013年发表在arXiv上，主要解决在大型数据集上进行有效推断和学习的问题，特别是在存在不可处理的后验分布和连续潜在变量的情况下。

开始讲之前不得不吐槽一下，本博主后续打算对生成模型做一个全面的总结，看到网上各种解读的帖子已经非常多，但是大部分都是引用、复制别人的资料，里面大量的数学符号来源混乱也没做解释，给本博主造成了很大的困扰，我相信一定有很多读者跟我一样的感触。因此，本博主又仔细阅读了原始论文，本篇将直接基于原始论文和其中的数学变量对VAE的原理做深入的梳理。

1 起源

1.1 自编码器的任务定义

我们从自编码器（AutoEncoder，AE）出发，因为VAE是为了解决AE应用在内容生成任务时存在的缺陷而出现的。自编码器的初衷是做数据降维，从数据降维任务的角度来描述自编码器的建模过程就是：假设数据集$X$的原始特征变量$x$维度过高，那么我们希望通过编码器$E$将其编码成低维特征向量$z=E(x,w_E)$，编码的原则是尽可能保留原始信息，因此我们再训练一个解码器$D$，希望能通过$z$重构原始信息，即$x\approx D(E(x,w_E),w_D)$，其优化目标一般是
w E , w D = arg min ⁡ w E , w D E x ∼ D [ ∥ x − D ( E ( x , w E ) , w D ) ∥ ]

$$\begin{equation} \begin{split} w_{E}, w_{D} = \argmin_{w_{E}, w_{D}} \Epsilon_{x\sim D}[\| x - D(E(x, w_{E}), w_{D})\|] \end{split} \end{equation}$$ wE​,wD​=wE​,wD​argmin​Ex∼D​[∥x−D(E(x,wE​),wD​)∥]​​​
其中，$w_E,w_D$分别为编码器$E$和解码器$D$的参数。
自编码器用图1表示可为：

$$\text{图1 自编码器结构}$$

1.2 自编码器存在的问题

理想情况下，假如每个样本都可以重构得很好，那么我们可以将$z$当作是$x$的等价表示。在内容生成任务上，我们不是想要由$z$还原出训练样本$x$，而是想要由新的编码向量实例$z$生成与训练样本$x$处于同一分布的新x值。但是实际中如果在自编码器上用一个新的编码向量实例$z$由解码器$D$生成出一个新的x时，通常并不我们想要的样子，比如在图片生成任务上，通常会生成类似于噪声的无意义图片。这表明编码向量$z$在其向量空间内的分布不是均匀的，随意取的向量实例$z$很大概率会超出其分布区域。

我们认为如果向量$z$的分布形状是规整、无冗余、连续的，那么我们从中学习了一部分样本，就很容易泛化到未知的新样本上去，因为我们知道编码空间是规整连续的，所以我们知道训练样本的编码向量之间“缝隙”中的向量实例，实际上也对应着同一分布的、未知的真实样本，因此把已知的搞好了，很可能未知的也搞好了。

但是，因为常规的自编码器由于没有特别的约束，$z$的分布规律是完全不可控的（比如$z$的各分量是否独立、是否要满足某种共现性？），所以随机抽取$z$的新实例大概率不在$z$的分布中，编码器生成结果就是没有意义的。

那么，VAE是如何解决自编码器存在的问题呢？

1.3 VAE的核心思路

为解决自编码器存在的问题，变分自编码器先从贝叶斯理论的角度引入了关于向量$z$的后验分布$p(z|x)$，并且假设了$p(z|x)$各个分变量服从独立高斯分布(为啥称为后验分布？因为我们认为$x$是由变量$z$生成的)。注意，这里并没有直接假设边缘概率$p(z)$的各个分变量服从独立高斯分布，但很容易推导证明$p(z)$的各个分变量是服从独立高斯分布的：
p ( z ) = ∫ p ( x ) p ( z ∣ x ) d x = ∫ p ( x ) N ( μ , σ 2 ) d x = N ( μ , σ 2 ) ∫ p ( x ) d x ∼ N ( μ , σ 2 )

$$\begin{equation} \begin{split} p(z) &= \int p(x)p(z|x)d_x \\ &= \int p(x)\mathcal{N}(\mu, \sigma^2)d_x \\ &= \mathcal{N}(\mu, \sigma^2)\int p(x)d_x \\ &\sim \mathcal{N}(\mu, \sigma^2) \\ \end{split} \end{equation}$$ p(z)​=∫p(x)p(z∣x)dx​=∫p(x)N(μ,σ2)dx​=N(μ,σ2)∫p(x)dx​∼N(μ,σ2)​​​
其中，$\mathcal{N}(\mu ,{\sigma }^2)$是高斯分布，$\mu ,{\sigma }^2$分别为均值和方差，$\int p(x)d_x$在数据集$X$上是个常量，每一个$x$是数据集上的一个样本。

那么思路就变得清晰了：如果我们从数据集$X$上通过编码器$E$学习到$p(z|x)$的变量独立的高斯分布$\mathcal{N}(\mu ,\sigma )$，那么在生成阶段，我们直接从这个学习到的高斯分布$\mathcal{N}(\mu ,\sigma )$中采样一个$z$的向量实例，经过解码器$D$就可以完美地生成满足数据集$X$分布的数据$x$值！

下面我们仔细建模这个思路的处理过程。

2 VAE的建模过程

2.1 VAE的任务定义

考虑数据集 X = { x ( i ) } i = 1 N X=\{x^{(i)}\}_{i=1}^N X={x(i)}i=1N​由N个样本组成，每个样本都由一组$x$变量组成，变量$x$可能是连续分布或者离散分布。假设数据集由不可观测的连续型随机变量$z$生成。VAE的概率图模型如下图2所示：

$$\text{图2 概率图模型示意图}$$

其中，
$\theta$为隐变量$z$的后验分布$p_{\theta }(z|x)$的分布参数，是需要学习出来的，比如对于高斯分布就是均值$\mu$和标准差$\sigma$；
$\varphi$为隐变量$z$的后验分布$p_{\theta }(z|x)$的真实分布，可以认为是一个隐含的常量，如果$z$高斯分布，那么该常量就对应均值和标准差的真实值；

VAE的生成过程包含两步：
（1）每个样本对应的$z^{(i)}$真实值由一个先验分布$p_{{\theta }^{\ast }}(z)$生成；
（2）每个样本$x^{(i)}$值由一个条件分布$p_{{\theta }^{\ast }}(x|z)$生成。
我们假设$p_{{\theta }^{\ast }}(z)$和$p_{{\theta }^{\ast }}(x|z)$分别来自$p_{\theta }(z)$和$p_{\theta }(x|z)$的参数化的分布族，他们的概率密度函数几乎处处不相同的。从我们的视角看，真实值${\theta }^{\ast }$和隐变量$z^{(i)}$的真实值都是不可知的。

我们没有对边际概率或后验概率做出一般的简化假设。相反，我们在这里感兴趣的是一种通用算法，它要解决以下问题：
（1）$p_{\theta }(x)=\int p_{\theta }(z)p_{\theta }(x|z)d_z$无法计算，同理，$p_{\theta }(z|x)=p_{\theta }(x|z)p_{\theta }(z)/p_{\theta }(x)$也无法求解，所以没法求EM（因为EM里面是要估计后验概率$p(z|x,\theta )$）;
（2）数据集很大，批量优化成本太高；如果使用小批量甚至单个数据点进行参数更新或基于采样的解决方案，例如蒙特卡罗EM，通常又会太慢而非常耗时。

结合我们在上文1.3节介绍的VAE核心思路，要解决问题（1）中无法计算的概率，我们可以用神经网络来直接从训练样本中学习（对，万事不决，神经网络！呵呵），那么VAE的结构变成了这样（如下图3所示）：
（1）设计一个编码器$E$同时预测$p_{\theta }(z|x)$的分布参数均值$\mu$和标准差$\sigma$，让这两个预测值要逼近真实分布$\varphi$的均值和标准差；注意，$z$是一个向量，所以均值$\mu$和标准差$\sigma$也都分别是一组向量；
（2）从均值$\mu$和标准差$\sigma$分布中采样一个向量实例作为$z$的值，输入到解码器$D$中解码出预测值$x^{\prime }$，让预测值$x^{\prime }$与真实值$x$尽可能接近；这里的采样过程不可微，求不了梯度，会导致整个VAE的神经网络无法梯度更新；因此使用“重参数化（Reparameterization）”技巧引入了一个采样变量$ϵ$。

$$\text{图3 VAE模型结构}$$

这图里面有两大问题：（1）真实分布$\varphi$是什么，为什么要逼近这个分布的参数？真实分布$\varphi$在图2中就已出现，但是我们并没有讲为什么会有这个，更没有说如何逼近这个真实分布；（2）“重参数化（Reparameterization）”技巧又是怎么运用的？

下面我们仔细讲讲。

2.2 真实分布$\varphi$是什么，为什么要逼近这个分布的参数，如何做？

在实际情况中，编码器$E$输出的分布参数均值$\mu$和标准差$\sigma$并没有什么约束，对于模型来说，输出标准差$\sigma$相当于对$z$引入了一定的波动性，会导致解码器$D$重建$x$变得非常困难。训练中模型为了尽快收敛，极可能走捷径让标准差$\sigma$一直为0，只调整均值$\mu$，那么编码器预测输出标准差$\sigma$就没啥用了，整个VAE模型退化成了标准的自编码器模型。如果要避免这种情况出现，那么我们就人为指定一个真实的分布$\varphi$让模型去拟合就好了，既然VAE模型假设了变量$z$的后验条件概率$p_{\theta }(z|x)$均服从高斯分布，那么让真实分布$\varphi$直接固定为标准正态分布$\mathcal{N}(0,I^2)$就是最简单的。

要逼近这个真实分布$\varphi$，这里都是正态分布，最简单的方法就是分别比较均值和方差即可，可将其加入到模型的损失函数作为一个正则化项$L_{\mu ,\sigma }$：
L μ , σ = E x ∼ D [ α ∥ ( μ − 0 ) ∥ 2 + β ∥ ( σ − 1 ) ∥ 2 ] , μ , σ = E ( x , w E )

$$\begin{align} L_{\mu, \sigma} &= \Epsilon_{x\sim D}[\alpha \| (\mu - 0)\|^2 +\beta \|(\sigma - 1)\|^2], \\ \mu, \sigma&= E(x, w_{E}) \end{align}$$ Lμ,σ​μ,σ​=Ex∼D​[α∥(μ−0)∥2+β∥(σ−1)∥2],=E(x,wE​)​​
其中，$\alpha ,\beta$为均值损失和方差损失的权重项。
这样带来一个问题，$\alpha ,\beta$项并不好设置，比例选取得不好，生成的图像会比较模糊。

标准的VAE模型中对这个正则化项做了一些改进，采用KL散度$\text{KL}(N(\mu ,\sigma 2)\Vert N(0,I))$度量这两个分布的距离，因此推导得到了一个更加复杂的正则化项$L_{\mu ,\sigma }$：
L μ , σ = E x ∼ D [ ∑ i = 1 d 1 2 ( μ 2 + σ 2 − log ⁡ σ 2 − 1 ) ] , μ , σ = E ( x , w E )

$$\begin{align} L_{\mu, \sigma} &= \Epsilon_{x\sim D}[\sum_{i=1}^{d}\frac{1}{2}(\mu^2 + \sigma^2 -\log \sigma^2 - 1)], \\ \mu, \sigma&= E(x, w_{E}) \end{align}$$ Lμ,σ​μ,σ​=Ex∼D​[i=1∑d​21​(μ2+σ2−logσ2−1)],=E(x,wE​)​​
这样就不用考虑均值损失和方差损失的相对比例问题了。

推导过程：
由于我们考虑的是$z$各分量独立的多元正态分布，因此只需要推导一元正态分布的情形即可，根据定义我们可以写出
KL ( N ( μ , σ 2 ) ∥ N ( 0 , 1 ) ) = ∫ 1 2 π σ 2 e − ( x − μ ) 2 2 σ 2 ( l o g e − ( x − μ ) 2 2 σ 2 / 2 π σ 2 e − x 2 2 2 π ) d x = ∫ 1 2 π σ 2 e − ( x − μ ) 2 2 σ 2 l o g { 1 σ 2 exp ⁡ 1 2 [ x 2 − ( x − μ ) 2 σ 2 ] } d x = 1 2 ∫ 1 2 π σ 2 e − ( x − μ ) 2 2 σ 2 [ − l o g σ 2 + x 2 − ( x − μ ) 2 σ 2 ] d x = 1 2 ( − log ⁡ σ 2 + μ 2 + σ 2 − 1 )

$$\begin{align} \text{KL}(N(μ,σ2) \| N(0,1)) &= \int \frac{1}{\sqrt{2πσ^2}}e^{−\frac{(x−μ)2}{2σ^2}}(log \frac{e^{−\frac{(x−μ)^2}{2σ^2}/\sqrt{2πσ^2}}}{\frac{e^{−\frac {x^2}{2}}}{2π}})d_x \\ &= \int \frac{1}{\sqrt{2πσ^2}}e^{−\frac{(x−μ)2}{2σ^2}}log \{ \frac{1}{\sqrt{σ^2}} \exp{\frac{1}{2}[x^2 - \frac{(x-\mu)^2}{σ^2}]} \}d_x \\ &= \frac{1}{2}\int \frac{1}{\sqrt{2πσ^2}}e^{−\frac{(x−μ)2}{2σ^2}}[-log σ^2 + x^2 - \frac{(x-\mu)^2}{σ^2}] d_x \\ &= \frac{1}{2}(-\log σ^2 + \mu^2 + σ^2 - 1) \end{align}$$ KL(N(μ,σ2)∥N(0,1))​=∫2πσ2 ​1​e−2σ2(x−μ)2​(log2πe−2x2​​e−2σ2(x−μ)2​/2πσ2 ​​)dx​=∫2πσ2 ​1​e−2σ2(x−μ)2​log{σ2 ​1​exp21​[x2−σ2(x−μ)2​]}dx​=21​∫2πσ2 ​1​e−2σ2(x−μ)2​[−logσ2+x2−σ2(x−μ)2​]dx​=21​(−logσ2+μ2+σ2−1)​​
其中，
整个结果分为三项积分，第一项实际上就是$-log{\sigma }^2$乘以概率密度的积分（也就是1），所以结果是$-log{\sigma }^2$；第二项实际是正态分布的二阶矩，熟悉正态分布的朋友应该都清楚正态分布的二阶矩为${\mu }^2+{\sigma }^2$；而根据定义，第三项实际上就是“-方差除以方差=-1”。

所以VAE模型最终的训练目标就变成了：
w E , w D = arg min ⁡ w E , w D E x ∼ D [ ∥ x − D ( ( μ + ϵ ⊗ σ ) , w D ) ∥ + ∑ i = 1 d 1 2 ( μ 2 + σ 2 − log ⁡ σ 2 − 1 ) ] μ , σ = E ( x , w E ) ϵ ∼ N ( 0 , 1 )

$$\begin{align} w_{E}, w_{D} &= \argmin_{w_{E}, w_{D}} \Epsilon_{x\sim D}[\| x - D((\mu + \epsilon \otimes \sigma), w_{D})\| + \sum_{i=1}^{d}\frac{1}{2}(\mu^2 + \sigma^2 -\log \sigma^2 - 1)] \\ \mu, \sigma&= E(x, w_{E}) \\ \epsilon&\sim \mathcal{N}(0, 1) \end{align}$$ wE​,wD​μ,σϵ​=wE​,wD​argmin​Ex∼D​[∥x−D((μ+ϵ⊗σ),wD​)∥+i=1∑d​21​(μ2+σ2−logσ2−1)]=E(x,wE​)∼N(0,1)​​
其中，
$w_E,w_D$分别为编码器$E$和解码器$D$的参数；
$ϵ$为从标准正态分布中采样的值。

2.3 “重参数化（Reparameterization）”技巧

这个重参数化技巧说白了就是将不可导的采样过程移出到神经网络结构之外。除了这个，我们在以前的博文《基于梯度的优化问题中不可导操作的处理方法总结》中有更多详细的总结。
简单来说，从$N(\mu ,\sigma 2)$中采样一个$z$，相当于从$N(0,I)$中采样一个$\epsilon$，然后让$z=\mu +\epsilon \times \sigma$。

推导过程：
∫ 1 2 π σ 2 e − ( z − μ ) 2 2 σ 2 d z = ∫ 1 2 π σ 2 e − 1 2 ( z − μ σ ) 2 d ( z − μ σ )

$$\begin{align} &\int \frac{1}{\sqrt{2πσ^2}}e^{−\frac{(z−μ)2}{2σ^2}}d_z \\ &= \int \frac{1}{\sqrt{2πσ^2}}e^{−\frac{1}{2}(\frac{z−μ}{σ})^2}d_{(\frac{z−μ}{σ})} \\ \end{align}$$ ​∫2πσ2 ​1​e−2σ2(z−μ)2​dz​=∫2πσ2 ​1​e−21​(σz−μ​)2d(σz−μ​)​​​
这说明$\frac{z-\mu }{\sigma }=\epsilon$是服从均值为0、方差为1的标准正态分布的，要同时把$d_z$考虑进去，是因为乘上$d_z$才算是概率，去掉$d_z$是概率密度而不是概率。
于是，我们将从$N(\mu ,{\sigma }^2)$采样变成了从$N(0,I)$中采样，然后通过参数变换得到从$N(\mu ,{\sigma }^2)$中采样的结果。

3 一些常见的疑问

3.1 后验分布$p(z|x)$必须假设为高斯分布么？

用其他分布也不是不行，比如均匀分布，只是计算两个分布的KL散度不像高斯分布一样有良好的性质，可能需要考虑比如除零问题、量纲的问题等等。

3.2 VAE的"变分"体现在哪里？

要理解这个，得首先熟悉变分法。可以查阅对应的数学资料，不细讲，这里直接引用资料[2]作者苏剑林的话：

$KL(p(x)\Vert q(x))$实际上是一个泛函，要对泛函求极值（证明始终有$KL(p(x)\Vert q(x))\ge 0$）就要用到变分法，当然，这里的变分法只是普通微积分的平行推广，还没涉及到真正复杂的变分法。而VAE的变分下界，是直接基于KL散度就得到的。所以直接承认了KL散度的话，就没有变分的什么事了。
一句话，VAE的名字中“变分”，是因为它的推导过程用到了KL散度及其性质。

3.3 VAE的究竟在做什么？

在VAE中，它的Encoder有两个，一个用来计算均值，一个用来计算方差；然后由计算的均值和方差合成隐空间变量$z$的值，这相当于给$z$的值施加了0均值标准化处理；它的Decoder部分与AE模型并无区别。
观察目标函数公式(11)的包括x重建误差+分布逼近误差，由于每个$p_{\theta }(z|x)$是不可能完全精确等于标准正态分布的，否则$p_{\theta }(z|x)$就相当于跟$x$无关了，$x$重建效果将会极差，目标函数(11)的值将会变大。最终的结果就会是x重建误差+分布逼近误差处在某种平衡之中（确切说处在帕累托前端上），$p(z|x)$保留了一定的x信息使$x$重建效果也还可以，同时保留着生成能力。

参考资料

[1]. Auto-Encoding Variational Bayes, 201312.
[2]. 变分自编码器（一）：原来是这么一回事