DALL·E 2 解读 | 结合预训练CLIP和扩散模型实现文本-图像生成_dall·e2中的数据预处理

 

一、导读

论文信息

• 论文标题: 《Hierarchical Text-Conditional Image Generation with CLIP Latents》
• 作者/单位：Aditya Ramesh et al. / Open AI
• 论文链接: http://arxiv.org/abs/2204.06125
• 论文中文对照版：论文笔记：DALL-E2：Hierarchical Text-ConditionalImage Generation with CLIP Latents详解_nocol.的博客-CSDN博客
• 代码链接: 非官方实现 https://github.com/lucidrains/DALLE2-pytorch （OpenAI官方实现待更新）
• 项目主页: 待更新

 

CLIP（打通文本-图像模型）相关讲解：

• 详解CLIP (一) | 打通文本-图像预训练实现ImageNet的zero-shot分类，比肩全监督训练的ResNet50/101
• 详解CLIP (二) | 简易使用CLIP-PyTorch预训练模型进行图像预测
• 小小将：神器CLIP：连接文本和图像，打造可迁移的视觉模型
• 徐土豆：CLIP-对比图文多模态预训练的读后感
• 如何评价OpenAI最新的工作CLIP：连接文本和图像，zero shot效果堪比ResNet50？

 

 论文笔记：CLIP：Learning Transferable Visual Models From Natural Language Supervision详解_nocol.的博客-CSDN博客

clip预训练模型综述_nocol.的博客-CSDN博客

 

扩散模型Diffusion Model相关讲解:

• Jonathan Ho et al.“Denoising diffusion probabilistic models.” arxiv Preprint arxiv:2006.11239 (2020).
• xjtupanda：DDPM:Denoising Diffusion Probabiblistic Model 去噪扩散概率模型学习笔记
• 理想主义者：生成模型(四):扩散模型

通俗理解DDPM：生成扩散模型_nocol.的博客-CSDN博客

二、DALL·E 2 模型解读

 

DALL·E 2 模型总览

DALL·E 2 这个模型的任务很简单：输入文本text，生成与文本高度对应的图片。

它主要包括三个部分：CLIP，先验模块prior和img decoder。其中CLIP又包含text encoder和img encoder。（在看DALL·E 2之前强烈建议先搞懂CLIP模型的训练和运作机制）

 

DALL·E 2 训练过程

DALL·E 2是将其子模块分开训练的，最后将这些训练好的子模块拼接在一起，最后实现由文本生成图像的功能。

1. 训练CLIP，使其能够编码文本和对应图像

这一步是与CLIP模型的训练方式完全一样的，目的是能够得到训练好的text encoder和img encoder。这么一来，文本和图像都可以被编码到相应的特征空间。对应上图中的虚线以上部分。

2. 训练prior，使文本编码可以转换为图像编码

论文中对于该步骤作用的解释为：

A prior P(zi|y) that produces CLIP image embeddings zi conditioned on captions y .

 

实际的训练过程为：将CLIP中训练好的text encoder拿出来，输入文本y，得到文本编码zt。同样的，将CLIP中训练好的img encoder拿出来，输入图像 x 得到图像编码zi。我们希望prior能从zt获取相对应的zi。假设zt经过prior输出的特征为zi′，那么我们自然希望zi′与zi越接近越好，这样来更新我们的prior模块。最终训练好的prior，将与CLIP的text encoder串联起来，它们可以根据我们的输入文本y生成对应的图像编码特征zi了。关于具体如何训练prior，有兴趣的小伙伴可以精度一下原文，作者使用了主成分分析法PCA来提升训练的稳定性。

 

在DALL·E 2 模型中，作者团队尝试了两种先验模型：自回归式Autoregressive (AR) prior 和扩散模型Diffusion prior [1]。实验效果上发现两种模型的性能相似，而因为扩散模型效率较高，因此最终选择了扩散模型作为prior模块。本文不具体解释扩散模型，大家可以查阅参考博文，或者我后期再整理相关知识。

3. 训练decoder生成最终的图像

论文中对于该步骤作用的解释为：

A decoder P(x|zi,y) that produces images x conditioned on CLIP image embeddingszi (and optionally text captions y ).

 

也就是说我们要训练decoder模块，从图像特征zi还原出真实的图像 x ，如下图左边所示。这个过程与自编码器类似，从中间特征层还原出输入图像，但又不完全一样。我们需要生成出的图像，只需要保持原始图像的显著特征就可以了，这样以便于多样化生成，例如下图右边的示例。

 

 

 

左：训练decoder的过程。右：图像经过img encoder再经decoder得到重建图像。顶部图像为输入。

DALL-E 2使用的是改进的GLIDE模型 [2]。这个模型可以根据CLIP图像编码的zi，还原出具有相同与 x 有相同语义，而又不是与 x 完全一致的图像。

 

 

DALL·E 2 推理过程（由文本生成图像过程）

经过以上三个步骤的训练，已经可以完成DALL·E 2预训练模型的搭建了。我们这事丢掉CLIP中的img encoder，留下CLIP中的text encoder，以及新训练好的prior和decoder。这么一来流程自然很清晰了：由text encoder将文本进行编码，再由prior将文本编码转换为图像编码，最后由decoder进行解码生成图像。

 

DALL·E 2 推理过程 

三、DALL·E 2实验效果和不足之处

实验效果

看下DALL·E 2 在MS-COCO prompts上的生成效果：

 

不足之处

本文作者提到了DALL·E 2的三个不足之处：

1. DALL·E 2 容易将物体和属性混淆，比如下图 DALL·E 2（unCLIP) 与GLIDE的对比。提示的文字为：“a red cube on top of a blue cube”。

 

DALL·E 2与GLIDE由“a red cube on top of a blue cube”生成的图像

DALL·E 2 不容易将红色和蓝色分辨出来。这可能来源于CLIP的embedding过程没有将属性绑定到物体上；并且decoder的重建过程也经常混淆属性和物体，如下图所示，例如中间的柯基图片，有的重建结果将其帽子和领结的颜色搞反了。

 

decoder经常混淆属性和物体

2. DALL·E 2对于将文本放入图像中的能力不足，如下图所示，我们希望得到一个写着deep learning的标志，而标志却将单词/词组拼写得很离谱。这个问题可能来源于CLIP embedding不能精确地从输入地文本提取出“拼写”信息。

 

DALL·E 2由“A sign that says deep learning.”生成的图像

3.DALL·E 2 在生成复杂场景图片时，对细节处理有缺陷，如下图所示生成Times Square的高质量图片。这个可能来源于decoder的分层（hierarchy）结构，先生成64 × 64的图像，再逐步上采样得到最终结果的。如果将decoder先生成的图像分辨率提高，比如从64 × 64提升到128 × 128，那么这个问题可能可以缓解，但要付出更大计算量和训练成本的代价。

 

 

DALL·E 2由“A high quality photo of Times Square.”生成的图像

待更新内容：代码实现以及上手使用（OpenAI仍未开源，目前可先使用非官方实现代码）

 原文链接：DALL·E 2 解读 | 结合预训练CLIP和扩散模型实现文本-图像生成-pudn.com