扩散模型(Diffusion Model)_扩散模型的优点

扩散模型(Diffusion Model)

Diffusion Model.

扩散模型 (Diffusion Model)是一类受到非平衡热力学 (non-equilibrium thermodynamics)启发的深度生成模型。这类模型首先定义前向扩散过程的马尔科夫链 (Markov Chain)，向数据中逐渐地添加随机噪声；然后学习反向扩散过程，从噪声中构造所需的数据样本。扩散模型也是一类隐变量模型，其隐变量通常具有较高的维度（与原始数据相同的维度）。

扩散模型的主要优点：

1. 目标函数为回归损失，训练过程平稳，容易训练；
2. 与像素顺序无关的逐级自回归过程，图像生成质量高。

扩散模型的主要缺点：

1. 采样速度慢，单次生成需要$T$步采样；
2. 没有编码能力，无法编辑隐空间。

本文目录：

1. 时间离散型扩散模型的基本原理
2. 时间连续型扩散模型的基本原理
3. 条件扩散模型

1. 时间离散型扩散模型的基本原理

本节介绍时间离散型扩散模型的基本原理，主要思路如下：

1. 定义前向扩散过程：$$q\left(\mathbf{x}t \mid \mathbf{x}{t-1}\right