DDPM（扩散模型）：以自己能够理解的角度_ddpm中的1000次

Denoising Diffusion Probabilistic Models

去噪扩散概率模型。总得来说分为两个过程；

• 前向过程（加噪）

  • 一个不断加标准高斯噪声（破坏图像）的一个过程。
  • 当时间 $t$ 足够大时，我们可以认为此时的图像近似为一张纯高斯噪声图像 ${\mathbf{x}}_T$。

• 反向过程（去噪）

  • 采样一个标准的高斯噪声 ${\mathbf{x}}_T$，让网络对其逐步去噪 ${\mathbf{x}}_{T-1},{\mathbf{x}}_{T-2},\dots$ ，最终得到没有噪声的图像 ${\mathbf{x}}_0$ 。

用粗略的话讲，模型学习在每个时间 $t$ 加多少噪声，去多少噪声，那么自然就可以从一张标准的高斯噪声恢复出真实图像。

---

前向过程

前向过程也称为扩散过程，将真实数据逐步变成噪声。

从单个图像（ 原始图像表示为： ${\mathbf{x}}_0$）来看，我们添加一次 「标准」高斯噪声 $\mathbf{ϵ}\sim \mathcal{N}(0,\mathbf{I})$，得到 ${\mathbf{x}}_1$。记 ${\mathbf{x}}_i$ 为对原始图像加 $i$ 次噪声后的结果。 当时间 $i$ 足够大的时候，数据会被高斯噪声淹没，变成纯正的高斯噪声。

上图的扩散过程从 ${\mathbf{x}}_0$ 一直到 ${\mathbf{x}}_T$ 就是一个马尔可夫链，表示状态空间中经过从一个状态到另一个状态的转换的随机过程。

• 至于什么是马尔可夫链，后续打算单独讲（简单来讲就是当前状态只于前一个状态有关）

首先第一个问题，加多少次噪声？

在文中，其由一个超参数$T$控制，即步数。原文$T=1000$, 即对原始图像加1000次噪声后，其会变成完全的高斯噪声。

那么噪声怎么加呢?

加噪声的过程其实是一个加权的过程。比如 $ 0.8\times Image+0.1\times Noise$，我们需要弄清楚的就是权重系数的问题，噪声的权重我们可以称之为扩散率。

直觉上来说，加噪对图像原有的信息应该是是慢慢破坏的(扩散率很低)，也就是说扩散率应该是在慢慢增大。这样主要是为了方便网络在逆扩散过程中学习去噪。

也就是说——去噪的过程是先把"明显"的噪声给去除，对应着较大的扩散率；当去到一定程度，逐渐逼近真实真实图像的时候，去噪速率逐渐减慢，开始微调，也就是对应着较小的扩散率。

> 重要公式 1 <

$${\mathbf{x}}_t=\sqrt{{\alpha }_t}{\mathbf{x}}_{t-1}+\sqrt{1-{\alpha }_t}{\mathbf{ϵ}}_t,{\mathbf{ϵ}}_t\sim \mathcal{N}(0,\mathbf{I})$$

原文中还有一个符号是 ${\beta }_t$ , 两者关系是 ${\alpha }_t=1-{\beta }_t$，所以有；

$${\mathbf{x}}_t=\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1}+\sqrt{{\beta }_t}{\mathbf{ϵ}}_t,{\mathbf{ϵ}}_t\sim \mathcal{N}(0,\mathbf{I})$$

上述公式其实就是提到的 $ a\times Image+ b\times Noise$。其中 $Image$ 是 ${\mathrm{x}}_{t-1}$，$Noise$ 是 ${ϵ}_t$ 。前向过程噪声是在逐步增加，对应着 $\sqrt{1-{\alpha }_t}$ 在逐步减小。

前向过程：${\beta }_t$ 在逐步减小，${\alpha }_t$ 在逐步增大；

对于大多数文章来说，经常出现下面这个式子

$$q({\mathbf{x}}_t|{\mathbf{x}}_{t-1})=\mathcal{N}({\mathbf{x}}_t;\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1},{\beta }_t\mathbf{I})$$

需要说明的是 ${\mathbf{x}}_t=\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1}+\sqrt{{\beta }_t}{\mathbf{ϵ}}_{t-1}$ 和 $q({\mathbf{x}}_t|{\mathbf{x}}_{t-1})=\mathcal{N}({\mathbf{x}}_t;\sqrt{1-{\beta }_t}{\mathbf{x}}_{t-1},{\beta }_t\mathbf{I})$ 是等价的，参考前置知识中的 「重参数化技巧」 ，$\epsilon=\mu+\mathbf{z}\cdot\sigma $ 表述的就是从 $ϵ\sim \mathcal{N}(\mu ,{\sigma }^2)$ 中采样的过程。

任意时刻的 ${\mathbf{x}}_t$ 由 ${\mathbf{x}}_0$ 表示

这里存在一个低效的问题。在马尔可夫链中，当我们需要潜在样本 ${\mathbf{x}}_t$ 时，我们必须在马尔可夫链中执行 $t-1$ 步。

为了解决这个问题，作者优化了步骤，直接从 timesteps = 0(即 ${\mathbf{x}}_0$) 推导到扩散过程中的${\mathbf{x}}_t$。

接下来，我们可以了解如何用数学来解释这个扩散过程。给定当前具有一定噪声的图像${\mathrm{x}}_{t-1}$, 加入标准高斯噪声噪声${ϵ}_{t-1}\sim$ $\mathcal{N}(0,\mathbf{I})$, 得到进一步加噪的图像${\mathbf{x}}_t$, 我们可以建模成：

$${\mathrm{x}}_t=a_t{\mathrm{x}}_{t-1}+b_t{ϵ}_t,{\mathbf{ϵ}}_t\sim \mathcal{N}(0,\mathbf{I})\text{\hspace{1em}(1)}$$

因为 ${\mathrm{x}}_{t-1}$ 具有的信息更多，因此 $a_t$ 是一个衰减系数，值应该满足 $0<a_t<1$ ; 同样的噪声系数也满足 $0<b_t<1$ 。

当我们用 ${\mathbf{x}}_{t-1}=a_{t-1}{\mathbf{x}}_{t-2}+b_{t-1}{\mathbf{ϵ}}_{t-1}$ 不断展开这个式子, 可以得到：

x t = a t x t − 1 + b t ϵ t = a t ( a t − 1 x t − 2 + b t − 1 ϵ t − 1 ) + b t ϵ t = a t a t − 1 x t − 2 + a t b t − 1 ϵ t − 1 + b t ϵ t = … = ( a t … a 1 ) x 0 + ( a t … a 2 ) b 1 ϵ 1 + ( a t … a 3 ) b 2 ϵ 2 + ⋯ + a t b t − 1 ϵ t − 1 + b t ϵ t (2)

$$\begin{aligned} \mathbf{x}_t& =a_t\mathbf{x}_{t-1}+b_t\boldsymbol{\epsilon}_t \\ &=a_t(a_{t-1}\mathbf{x}_{t-2}+b_{t-1}\boldsymbol{\epsilon}_{t-1})+b_t\boldsymbol{\epsilon}_t \\ &=a_ta_{t-1}\mathbf{x}_{t-2}+a_tb_{t-1}\boldsymbol{\epsilon}_{t-1}+b_t\boldsymbol{\epsilon}_t \\ &=\ldots \\ &=\left(a_t\ldots a_1)\mathbf{x}_0+(a_t\ldots a_2)b_1\boldsymbol{\epsilon}_1+(a_t\ldots a_3)b_2\boldsymbol{\epsilon}_2+\cdots+a_tb_{t-1}\boldsymbol{\epsilon}_{t-1}+b_t\boldsymbol{\epsilon}_t\right. \\ \end{aligned}$$ \tag{2} xt​​=at​xt−1​+bt​ϵt​=at​(at−1​xt−2​+bt−1​ϵt−1​)+bt​ϵt​=at​at−1​xt−2​+at​bt−1​ϵt−1​+bt​ϵt​=…=(at​…a1​)x0​+(at​…a2​)b1​ϵ1​+(at​…a3​)b2​ϵ2​+⋯+at​bt−1​ϵt−1​+bt​ϵt​​(2)

除了第一项，后面是多个独立正态分布的的和。 前面有说 $ϵ$ 其实是标准高斯噪声，那么 ${ϵ}_i$ 本质上是同属于一个分布 $\mathcal{N}(0,\mathbf{I})$ 下的 不同采样。

利用叠加性，他们的和也是一个正态分布，均值为 0， 方差为 $(a_t\dots a_2{)}^2{b}_1^2+(a_t\dots a_3{)}^2{b}_2^2+\cdots +a_t^2{b}_{t-1}^2+b_t^2.$

这样原表达式可以写成

x t = ( a t … a 1 ) x 0 + ( a t … a 2 ) 2 b 1 2 + ( a t … a 3 ) 2 b 2 2 + ⋯ + a t 2 b t − 1 2 + b t 2 ϵ ˉ t , ϵ ˉ t ∼ N ( 0 , I ) (3)

$$\begin{gathered}\mathbf{x}_t=(a_t\ldots a_1)\mathbf{x}_0+\sqrt{(a_t\ldots a_2)^2b_1^2+(a_t\ldots a_3)^2b_2^2+\cdots+a_t^2b_{t-1}^2+b_t^2}\bar{\boldsymbol{\epsilon}}_t,\\\bar{\boldsymbol{\epsilon}}_t\sim\mathcal{N}(\mathbf{0},\mathbf{I})\end{gathered}$$ \tag{3} xt​=(at​…a1​)x0​+(at​…a2​)2b12​+(at​…a3​)2b22​+⋯+at2​bt−12​+bt2​ ​ϵˉt​,ϵˉt​∼N(0,I)​(3)

重参数化技巧

对高斯分布 $\mathcal{N}(\mu ,{\sigma }^2)$ 进行采样一个噪声，等价于先从标准高斯分布 $\mathcal{N}(0,1)$ 中采样的到一个噪声 $\mathbf{z}$, 乘上标准差 $\sigma$，再加上均值 $\mu$ , 即： $ϵ=\mu +\mathbf{z}\cdot \sigma$

这里有一个细节，如果我们把系数的平方和都加起来

( a t … a 1 ) 2 + ( a t … a 2 ) 2 b 1 2 + ( a t … a 3 ) 2 b 2 2 + ⋯ + a t 2 b t − 1 2 + b t 2 = ( a t … a 2 ) 2 a 1 2 + ( a t … a 2 ) 2 b 1 2 + ( a t … a 3 ) 2 b 2 2 + ⋯ + a t 2 b t − 1 2 + b = ( a t … a 2 ) 2 ( a 1 2 + b 1 2 ) + ( a t … a 3 ) 2 b 2 2 + ⋯ + a t 2 b t − 1 2 + b t 2 = ( a t … a 3 ) 2 ( a 2 2 ( a 1 2 + b 1 2 ) + b 2 2 ) + ⋯ + a t 2 b t − 1 2 + b t 2 = a t 2 ( a t − 1 2 ( … ( a 2 2 ( a 1 2 + b 1 2 ) + b 2 2 ) + … ) + b t − 1 2 ) + b t 2 (4)

$$\begin{aligned} &(a_t\ldots a_1)^2+(a_t\ldots a_2)^2b_1^2+(a_t\ldots a_3)^2b_2^2+\cdots+a_t^2b_{t-1}^2+b_t^2 \\ &= (a_t\ldots a_2)^2a_1^2+(a_t\ldots a_2)^2b_1^2+(a_t\ldots a_3)^2b_2^2+\cdots+a_t^2b_{t-1}^2+b \\ &= (a_t\ldots a_2)^2(a_1^2+b_1^2)+(a_t\ldots a_3)^2b_2^2+\cdots+a_t^2b_{t-1}^2+b_t^2 \\ &= (a_t\ldots a_3)^2\left(a_2^2(a_1^2+b_1^2)+b_2^2\right)+\cdots+a_t^2b_{t-1}^2+b_t^2 \\ &= \left.a_t^2\left(a_{t-1}^2\right.\left(\ldots\left(a_2^2(a_1^2+b_1^2)+b_2^2\right)+\ldots\right)+b_{t-1}^2\right)+b_t^2 \end{aligned}$$ \tag{4} ​(at​…a1​)2+(at​…a2​)2b12​+(at​…a3​)2b22​+⋯+at2​bt−12​+bt2​=(at​…a2​)2a12​+(at​…a2​)2b12​+(at​…a3​)2b22​+⋯+at2​bt−12​+b=(at​…a2​)2(a12​+b12​)+(at​…a3​)2b22​+⋯+at2​bt−12​+bt2​=(at​…a3​)2(a22​(a12​+b12​)+b22​)+⋯+at2​bt−12​+bt2​=at2​(at−12​(…(a22​(a12​+b12​)+b22​)+…)+bt−12​)+bt2​​(4)

我们发现，如果加一个约束 $a_t^2+b_t^2=1$ ,上面括号里的平方和就为 1 了。同时如果我们记 ${\bar{a}}_t=(a_t\dots a_1{)}^2$ ， 那么平方和的后面部分，即式 $(3)$的方差部分，就可以表示为 $1-{\bar{a}}_t$ 。 那么式 $(3)$ 就可以改写:

$${\mathbf{x}}_t=\sqrt{{\bar{a}}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{a}}_t}{\overline{\mathbf{ϵ}}}_t,{\overline{\mathbf{ϵ}}}_t\sim \mathcal{N}(0,\mathbf{I})\text{\hspace{1em}(5)}$$

• 我们把 $a$ 替换成 $\alpha$

$${\mathbf{x}}_t=\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}{\overline{\mathbf{ϵ}}}_t,{\overline{\mathbf{ϵ}}}_t\sim \mathcal{N}(0,\mathbf{I})\text{\hspace{1em}(6)}$$

• 接着写出式 $(6)$ 对应的概率形式

$${\mathbf{x}}_t\sim q({\mathbf{x}}_t|{\mathbf{x}}_0)=\mathcal{N}({\mathbf{x}}_t;\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0,(1-{\bar{\alpha }}_t)\mathbf{I}),{\bar{\alpha }}_t=\prod _{i=1}^t{\alpha }_i\text{\hspace{1em}(7)}$$

到这里已经是和原论文一致了。这里花一定篇幅来讲解 $\alpha$ 和 $\beta$ 的系数设置；
同时还有对于均值 ${\sqrt{\alpha }}_t$ 的设置 ，很多博客的观点如下：

• $T\to \infty \text{,}{x}_T\sim \mathcal{N}(0,\mathbf{I})$ ，最后是一个标准正态分布，因此前一项的接近0，后项应该设计成一个$\sqrt{1-{\alpha }_t}$ 的形式。
• ${\sqrt{\alpha }}_t$ 的系数能够稳定保证最后收敛到方差为1的标准高斯分布；

我觉得对于我来说更多的是推导的简洁优雅。毕竟是先有假设 $a_t^2+b_t^2=1$ , 才会有最后的结果。

整个前向过程是一个后验估计，被表示为：（根据联合概率密度+马尔可夫链性质）

$$q({\mathbf{x}}_{1:T}|{\mathbf{x}}_0)=\prod _{t=1}^{T}q({\mathbf{x}}_t|{\mathbf{x}}_{t-1})\text{\hspace{1em}(8)}$$

---

反向过程

扩散过程是从原始数据 ${\mathbf{x}}_0$ 逐渐添加噪声得到 ${\mathbf{x}}_T$ 。 逆扩散过程就是从 ${\mathbf{x}}_T$ 逐步去噪得到 ${\mathbf{x}}_0$，即求：

$$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t)$$

那么 $q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t)$ 怎么求呢？

首先加噪过程中 $q({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1})$ 我们是知道的，因此根据贝叶斯公式有

$$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t)=\frac{q({\mathbf{x}}_t\mid {\mathbf{x}}_{t-1})\times q({\mathbf{x}}_{t-1})}{q({\mathbf{x}}_t)}\text{\hspace{1em}(9)}$$

补充贝叶斯公式:
$$P(A|B)=\frac{P(B|A)\times P(A)}{P(B)}$$
多变量贝叶斯公式
$$P(A|B,C)=P(A,B,C)/P(B,C)$$
贝叶斯公式实现了概率反转，即由 $P(B|A)$ 得到 $P(A|B)$

现在问题是 $q({\mathbf{x}}_t)$ 和 $q({\mathbf{x}}_{t-1})$ 不知道。当 $T$ 足够大的时候，$q({\mathbf{x}}_T)$ 可以认为就是标准高斯噪声。但是我们并不知道具体的某个样本的值包含多少图像信息，因此我们我们是无法知道 $q({\mathbf{x}}_t)$ 的。

要想知道 $q({\mathbf{x}}_t)$ 和 $q({\mathbf{x}}_{t-1})$ ，自然就依赖于一个先决条件，没加噪声的图像 $q({\mathbf{x}}_0)$ 。换句话说，$q({\mathbf{x}}_t\mid {\mathbf{x}}_0)$ 和 $q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_0)$ 我们是知道的。如果我们在 式$(9)$ 再加上一个条件 ${\mathbf{x}}_0$ , 将求解 $q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t)$ 转换成求解 $q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t,{\mathbf{x}}_0)$ 。这样可以得到多元条件分布

q ( x t − 1 ∣ x t , x 0 ) = q ( x t − 1 , x t , x 0 ) q ( x t , x 0 ) = q ( x t ∣ x t − 1 , x 0 ) q ( x t ∣ x 0 ) q ( x 0 ) q ( x t ∣ x 0 ) (10)

$$\begin{aligned} q(\mathbf{x}_{t-1}|\mathbf{x}_t,\mathbf{x}_0) & = \frac{q(\mathbf{x}_{t-1}, \mathbf{x}_t,\mathbf{x}_0)}{q(\mathbf{x}_t,\mathbf{x}_0)} \\ & = \frac{q(\mathbf{x}_{t} \mid \mathbf{x}_{t-1},\mathbf{x}_0) q(\mathbf{x}_t \mid \mathbf{x}_0) q(\mathbf{x}_0)}{q(\mathbf{x}_t \mid \mathbf{x}_0)} \\ \tag{10} \end{aligned}$$ q(xt−1​∣xt​,x0​)​=q(xt​,x0​)q(xt−1​,xt​,x0​)​=q(xt​∣x0​)q(xt​∣xt−1​,x0​)q(xt​∣x0​)q(x0​)​​(10)

• 由于扩散过程是一个马尔可夫过程，${\mathbf{x}}_t$ 只和前一个状态 ${\mathbf{x}}_{t-1}$ 有关，和 ${\mathbf{x}}_0$ 无关；
• 另外 ${\mathbf{x}}_0$ 是原始样本，是已知的；

那么继续求解 式$(10)$ 有

$$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0)=q({\mathbf{x}}_t|{\mathbf{x}}_{t-1})\frac{q({\mathbf{x}}_{t-1}|{\mathbf{x}}_0)}{q({\mathbf{x}}_t|{\mathbf{x}}_0)}\text{\hspace{1em}(11)}$$

那么如何求解 式 $(11)$ 呢？

现在我们存在一个问题，在反向去噪过程中，根据 式 $(11)$ ，我们发现从 ${\mathbf{x}}_t$ 推断 ${\mathbf{x}}_{t-1}$ 需要建立在 ${\mathbf{x}}_0$ 已知的情况。但去噪过程中，${\mathbf{x}}_0$ 本身就是我们需要去求解的东西。所以我们需要进一步拆解上述式子。「看看能不能把 ${\mathbf{x}}_0$ 消除掉」 。如果消除掉，就不用陷入这种求 ${\mathbf{x}}_0$ 必须知道 ${\mathbf{x}}_0$ 的困境了。

• $q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)$ 等价于 ${\mathbf{x}}_t=\sqrt{{\alpha }_t}{\mathbf{x}}_{t-1}+\sqrt{1-{\alpha }_t}{\mathbf{ϵ}}_t$ 。 写成分布的形式，有 $\mathcal{N}({\mathbf{x}}_t;\sqrt{{\alpha }_t}{\mathbf{x}}_{t-1},1-{\alpha }_t\mathbf{I})$ 。 进一步写成概率密度函数的形式，$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t)\propto \exp (-\frac{1}{2}\frac{({\mathbf{x}}_t-\sqrt{{\alpha }_t}{\mathbf{x}}_{t-1}{)}^2}{1-{\alpha }_t})=\exp (-\frac{1}{2}\frac{({\mathbf{x}}_t-\sqrt{{\alpha }_t}{\mathbf{x}}_{t-1}{)}^2}{{\beta }_t})$ 。

• $q({\mathbf{x}}_{t-1}|{\mathbf{x}}_0)$ 等价于 ${\mathbf{x}}_t=\sqrt{{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_{t-1}}{\overline{ϵ}}_{t-1}$ 。 写成分布的形式，有 $\mathcal{N}({\mathbf{x}}_{t-1};\sqrt{{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0,1-{\bar{\alpha }}_t\mathbf{I})$ 。 进一步写成概率密度函数的形式，$q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_0)\propto \exp (-\frac{1}{2}\frac{({\mathbf{x}}_{t-1}-\sqrt{{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0{)}^2}{1-{\bar{\alpha }}_{t-1}})。$

• $q({\mathbf{x}}_t|{\mathbf{x}}_0)$ 等价于 ${\mathbf{x}}_t=\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0+\sqrt{1-{\bar{\alpha }}_t}{\mathbf{ϵ}}_t$ 。 写成分布的形式，有 $\mathcal{N}({\mathbf{x}}_t;\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0,1-{\bar{\alpha }}_t\mathbf{I})$ 。 进一步写成概率密度函数的形式，$q({\mathbf{x}}_t\mid {\mathbf{x}}_0)\propto \exp (-\frac{1}{2}\frac{({\mathbf{x}}_t-\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0{)}^2}{1-{\bar{\alpha }}_t})$ 。

这里为什么要把概率密度函数的形式给拿出来呢？其实是方便运算。

因此 $q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0)=q({\mathbf{x}}_t|{\mathbf{x}}_{t-1})\times q({\mathbf{x}}_{t-1}|{\mathbf{x}}_0)÷q({\mathbf{x}}_t|{\mathbf{x}}_0)$，写成密度函数的形式为有

q ( x t − 1 ∣ x t , x 0 ) = q ( x t ∣ x t − 1 ) q ( x t − 1 ∣ x 0 ) q ( x t ∣ x 0 ) ∝ exp ⁡ ( − 1 2 ( ( x t − α t x t − 1 ) 2 β t + ( x t − 1 − α ˉ t − 1 x 0 ) 2 1 − α ˉ t − 1 − ( x t − α ˉ t x 0 ) 2 1 − α ˉ t ) ) = exp ⁡ ( − 1 2 ( x t 2 − 2 α t x t x t − 1 + α t x t − 1 2 β t + x t − 1 2 − 2 α ˉ t − 1 x 0 x t − 1 + α ˉ t − 1 x 0 2 1 − α ˉ t − 1 − ( x t − α ˉ t x 0 ) 2 1 − α ˉ t ) ) = exp ⁡ ( − 1 2 ( α t β t + 1 1 − α ˉ t − 1 ) x t − 1 2 − ( 2 α t β t x t + 2 α ˉ t − 1 1 − α ˉ t − 1 x 0 ) x t − 1 + C ( x t , x 0 ) )

$$\begin{aligned} q(\mathbf{x}_{t-1}|\mathbf{x}_t,\mathbf{x}_0)& = q(\mathbf{x}_t|\mathbf{x}_{t-1})\frac{q(\mathbf{x}_{t-1}|\mathbf{x}_0)}{q(\mathbf{x}_t|\mathbf{x}_0)} \\ &\propto\exp\left(-\frac12(\frac{(\mathbf{x}_t-\sqrt{\alpha_t}\mathbf{x}_{t-1})^2}{\beta_t}+\frac{(\mathbf{x}_{t-1}-\sqrt{\bar{\alpha}_{t-1}}\mathbf{x}_0)^2}{1-\bar{\alpha}_{t-1}}-\frac{(\mathbf{x}_t-\sqrt{\bar{\alpha}_t}\mathbf{x}_0)^2}{1-\bar{\alpha}_t})\right) \\ &=\exp\left(-\frac12(\frac{\mathbf{x}_t^2-2\sqrt{\alpha_t}\mathbf{x}_t\mathbf{x}_{t-1}+\mathbf{\alpha}_t\mathbf{x}_{t-1}^2}{\beta_t}+\frac{\mathbf{x}_{t-1}^2-2\sqrt{\bar{\alpha}_{t-1}}\mathbf{x}_0\mathbf{x}_{t-1}+\bar{\alpha}_{t-1}\mathbf{x}_0^2}{1-\bar{\alpha}_{t-1}}-\frac{(\mathbf{x}_t-\sqrt{\bar{\alpha}_t}\mathbf{x}_0)^2}{1-\bar{\alpha}_t})\right) \\ &=\exp\left(-\frac12\color{red}{(\frac{\alpha_t}{\beta_t}+\frac1{1-\bar{\alpha}_{t-1}})x_{t-1}^2}-\color{Blue}{(\frac{2\sqrt{\alpha_t}}{\beta_t}x_t+\frac{2\sqrt{\bar{\alpha}_{t-1}}}{1-\bar{\alpha}_{t-1}}x_0)x_{t-1}}+ \color{black}{C(\mathbf{x}_t,\mathbf{x}_0)}\right) \end{aligned}$$ q(xt−1​∣xt​,x0​)​=q(xt​∣xt−1​)q(xt​∣x0​)q(xt−1​∣x0​)​∝exp(−21​(βt​(xt​−αt​ ​xt−1​)2​+1−αˉt−1​(xt−1​−αˉt−1​ ​x0​)2​−1−αˉt​(xt​−αˉt​ ​x0​)2​))=exp(−21​(βt​xt2​−2αt​ ​xt​xt−1​+αt​xt−12​​+1−αˉt−1​xt−12​−2αˉt−1​ ​x0​xt−1​+αˉt−1​x02​​−1−αˉt​(xt​−αˉt​ ​x0​)2​))=exp(−21​(βt​αt​​+1−αˉt−1​1​)xt−12​−(βt​2αt​ ​​xt​+1−αˉt−1​2αˉt−1​ ​​x0​)xt−1​+C(xt​,x0​))​

tips: 技巧性化简，我们所有的转换、化简都是为了求关于 ${\mathbf{x}}_{t-1}$ 的条件分布 $q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_0,{\mathbf{x}}_0)$ 。基于此，所以我们把 ${\mathbf{x}}_{t-1}$ 给提取出来
$$C({\mathbf{x}}_t,{\mathbf{x}}_0)=\frac{{\mathbf{x}}_t^2-2\sqrt{{\bar{\alpha }}_t}{\mathbf{x}}_0{\mathbf{x}}_t+{\bar{\alpha }}_t{\mathbf{x}}_0^2}{1-{\bar{\alpha }}_t}$$
$C({\mathbf{x}}_t,{\mathbf{x}}_0)$ 为不涉及 ${\mathbf{x}}_{t-1}$ 的项，所以忽略

那么上面这个整理的式子究竟有什么用呢？ 回顾下，以 $x$ 为自变量的高斯分布 $\mathcal{N}(\mathbf{x};\mu ,{\sigma }^2)$ , 其概率密度函数正比于 $\exp (-\frac{1}{2}(\frac{1}{{\sigma }^2}{x}^2-\frac{2\mu }{{\sigma }^2}x+\frac{{\mu }^2}{{\sigma }^2}))$ 。可以发现, 上面式子中 ${\mathbf{x}}_{t-1}^2$ 与 ${\mathbf{x}}_{t-1}$ 的系数，其中就包含了 $q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0)$ 的均值和方差的信息。

我们发现 方差 ${\sigma }^2$ 就是 $x^2$ 的系数的倒数。而 ${\mathbf{x}}_{t-1}^2$ 的系数为 $(\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\bar{\alpha }}_{t-1}})$ ，完全只由人工确定的超参数 $\alpha$ 和 $\beta$ 确定。因此方差是确定的，但是均值与 ${\mathbf{x}}_{t-1}$ 的系数 $(\frac{2\sqrt{{\alpha }_t}}{{\beta }_t}{x}_t+\frac{2\sqrt{{\bar{\alpha }}_{t-1}}}{1-{\bar{\alpha }}_{t-1}}{x}_0)$ 有关。可以发现，除了已知量 $\alpha$ 、 $\beta$ 和 ${\mathbf{x}}_t$ ，依然包含着我们想要消除的项 ${\mathbf{x}}_0$ 。

我们先整理一下有(${\alpha }_t+{\beta }_t=1$ and ${\bar{\alpha }}_t={\prod }_{i=1}^T{\alpha }_i$)：

$$\frac{1}{{\sigma }^2}=\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\bar{\alpha }}_{t-1}}=\frac{{\alpha }_t-{\bar{\alpha }}_t+{\beta }_t}{{\beta }_t(1-{\bar{\alpha }}_{t-1})}=\frac{1-{\bar{\alpha }}_t}{{\beta }_t(1-{\bar{\alpha }}_{t-1})}\text{\hspace{1em}(13)}$$

$$⟹{\sigma }^2=\frac{1-{\bar{\alpha }}_{t-1}}{1-{\bar{\alpha }}_t}\cdot {\beta }_t\text{\hspace{1em}(13-1)}$$

2 μ σ 2 = ( 2 α t β t x t + 2 α ˉ t − 1 1 − α ˉ t − 1 x 0 ) (14)

$$\begin{aligned} \frac{2\mu}{\sigma^2} = (\frac{2\sqrt{\alpha_t}}{\beta_t}\mathbf{x}_t+\frac{2\sqrt{\bar{\alpha}_{t-1}}}{1-\bar{\alpha}_{t-1}}\mathbf{x}_0) \tag{14} \end{aligned}$$ σ22μ​=(βt​2αt​ ​​xt​+1−αˉt−1​2αˉt−1​ ​​x0​)​(14)

⟹ μ = ( α t β t x t + α ˉ t − 1 1 − α ˉ t − 1 x 0 ) ⋅ 1 − α ˉ t − 1 1 − α ˉ t ⋅ β t = α t ( 1 − α ˉ t − 1 ) 1 − α ˉ t x t + α ˉ t − 1 β t 1 − α ˉ t x 0 (14-1)

$$\begin{aligned} \Longrightarrow \mu & = (\frac{\sqrt{\alpha_t}}{\beta_t}\mathbf{x}_t+\frac{\sqrt{\bar{\alpha}_{t-1}}}{1-\bar{\alpha}_{t-1}}\mathbf{x}_0) \cdot \color{green}{\frac{1-\bar{\alpha}_{t-1}}{1-\bar{\alpha}_t}\cdot\beta_t} \\ & = \frac{\sqrt{\alpha_t}(1-\bar{\alpha}_{t-1})}{1-\bar{\alpha}_t}\mathbf{x}_t+\frac{\sqrt{\bar{\alpha}_{t-1}}\beta_t}{1-\bar{\alpha}_t}\mathbf{x}_0 \tag{14-1} \end{aligned}$$ ⟹μ​=(βt​αt​ ​​xt​+1−αˉt−1​αˉt−1​ ​​x0​)⋅1−αˉt​1−αˉt−1​​⋅βt​=1−αˉt​αt​ ​(1−αˉt−1​)​xt​+1−αˉt​αˉt−1​ ​βt​​x0​​(14-1)

现在 $\mu$ 是一个只关于 ${\mathbf{x}}_0$ 和 ${\mathbf{x}}_t$ 的式子。我们记做 ${\tilde{\mathbf{\mu }}}_t({\mathbf{x}}_t,{\mathbf{x}}_0)$ , 简化为 ${\tilde{\mathbf{\mu }}}_t$ ；

前面说了在反向扩散阶段，${\mathbf{x}}_0$ 是不知道的。但是根据 ${\mathbf{x}}_0=\frac{1}{\sqrt{{\bar{\alpha }}_t}}({\mathbf{x}}_t-\sqrt{1-{\bar{\alpha }}_t}{\mathbf{ϵ}}_t)$ ，有

μ ~ t = α t ( 1 − α ˉ t − 1 ) 1 − α ˉ t x t + α ˉ t − 1 β t 1 − α ˉ t 1 α ˉ t ( x t − 1 − α ˉ t ϵ t ) = ( α t ( 1 − α ˉ t − 1 ) 1 − α ˉ t + α ˉ t − 1 β t 1 − α ˉ t 1 α ˉ t ) x t − 1 − α t 1 − α ˉ t ⋅ α t ϵ t = ( α t − α ˉ t α t ⋅ ( 1 − α ˉ t ) + 1 − α t ( 1 − α ˉ t ) ⋅ α t ) x t − 1 − α t 1 − α ˉ t ⋅ α t ϵ t = 1 α t ( x t − 1 − α t 1 − α ˉ t ϵ t )

$$\begin{aligned} {\tilde{\boldsymbol{\mu}}_t} &= \frac{\sqrt{\alpha_t}(1-\bar{\alpha}_{t-1})}{1-\bar{\alpha}_t}\mathbf{x}_t+\frac{\sqrt{\bar{\alpha}_{t-1}}\beta_t}{1-\bar{\alpha}_t}\frac1{\sqrt{\bar{\alpha}_t}}(\mathbf{x}_t-\sqrt{1-\bar{\alpha}_t}\boldsymbol{\epsilon}_t) \\ &= (\frac{\sqrt{\alpha_t}(1-\bar{\alpha}_{t-1})}{1-\bar{\alpha}_t} + \frac{\sqrt{\bar{\alpha}_{t-1}}\beta_t}{1-\bar{\alpha}_t}\frac1{\sqrt{\bar{\alpha}_t}})\mathbf{x}_t - \frac{1 - \alpha_t}{\sqrt{1-\bar{\alpha}_t} \cdot \sqrt{\alpha_t}}\boldsymbol{\epsilon}_t \\ &= (\frac{ {\alpha}_{t} - \bar\alpha_{t}}{\sqrt{\alpha_t} \cdot (1-\bar{\alpha}_t)} + \frac{1 - \alpha_t}{(1-\bar{\alpha}_t) \cdot \sqrt{\alpha_t}})\mathbf{x}_t - \frac{1 - \alpha_t}{\sqrt{1-\bar{\alpha}_t} \cdot \sqrt{\alpha_t}}\boldsymbol{\epsilon}_t \\ & =\color{purple}{\frac1{\sqrt{\alpha_t}}\left(\mathrm{x}_t-\frac{1-\alpha_t}{\sqrt{1-\bar{\alpha}_t}}\boldsymbol{\epsilon}_t\right)} \end{aligned}$$ μ~​t​​=1−αˉt​αt​ ​(1−αˉt−1​)​xt​+1−αˉt​αˉt−1​ ​βt​​αˉt​ ​1​(xt​−1−αˉt​ ​ϵt​)=(1−αˉt​αt​ ​(1−αˉt−1​)​+1−αˉt​αˉt−1​ ​βt​​αˉt​ ​1​)xt​−1−αˉt​ ​⋅αt​ ​1−αt​​ϵt​=(αt​ ​⋅(1−αˉt​)αt​−αˉt​​+(1−αˉt​)⋅αt​ ​1−αt​​)xt​−1−αˉt​ ​⋅αt​ ​1−αt​​ϵt​=αt​ ​1​(xt​−1−αˉt​ ​1−αt​​ϵt​)​

到这一步，我们已经把 ${\mathbf{x}}_0$ 给消掉了。只要知道了 ${\mathbf{ϵ}}_t$ , 我们就可以把 ${\tilde{\mathbf{\mu }}}_t$ 给算出来，进而得到 $q({\mathbf{x}}_{t-1}\mid {\mathbf{x}}_t)$，采样出 ${\mathbf{x}}_{t-}$，完成去噪的过程。

---

参考

简单基础入门理解Denoising Diffusion Probabilistic Model，DDPM扩散模型
What are Diffusion Models?
由浅入深了解Diffusion Model

​