SD3发布，送你3个ComfyUI工作流_sd3 text encoders

大家好，我是每天分享AI应用的萤火君！

这几天AI绘画界最轰动的消息莫过于Stable Diffusion 3（简称SD3）的发布。SD3是一个多模态的 Diffusion Transformer 模型，其在图像质量、排版、复杂提示理解和资源效率方面具有显著提升。

废话不多说，先给大家看看我使用SD3生成的几张图片：

SD3介绍

SD3是一个多模态的 Diffusion Transformer 模型，这个模型有什么特点呢？这里给大家简单拆解下：

多模态：这个词大家可能比较陌生，不过也很简单，就是一个模型中有多个子模型，它们分别处理不同方面的任务，让模型的整体能力更强。在SD3内部，模型先将文本和图像分为两个子模型，然后在后续的处理中又把它们连接起来。通过这种方法，允许图像和文本令牌之间的信息流动，以改善生成输出的整体理解和排版。

Diffusion：这个大家可能都很熟悉了，SD这个名字中就包含它。扩散模型的训练过程是先向图片中增加噪音，噪音可以看作图片中的小雪花，一张完全噪音图可以看作为没有信号时的电视画面，然后扩散模型再学习根据文本提示词逐步去除噪音、还原图片。添加噪音的过程就是扩散（Diffusion，逐步将图片转换为完全噪音图），根据提示词将噪音图还原为图片的过程称为反向扩散（从完全噪音图生成出目标图像）。我们生成图片的过程是其中的反向扩散。

Transformer：自从OpenAI给大家展示了Sora的惊艳效果后，各种AI模型都开始向 Transformer 这一架构靠近。Transformer 这一架构最初用在自然语言翻译上，后来在大语言模型（GPT、LLama等）上取得了巨大的成功，通过它进行的机器学习效果都不错。所以SD也从之前使用的UNet架构迁移到了Transformer架构。

这几个名词有一些简称，为了方便大家识别，这里也简单说明下：

• Diffusion Transformer 简称为 DiT。
• Multimodal Diffusion Transformer 简称为 MMDiT，其中 Multimodal 是多模态的意思。

使用SD3 Medium

本次发布，Stability AI只公开了SD3的一个中等版本（sd3_medium），参数量是2B，也就是20亿参数，所谓中等就是模型的参数量不上不下，Stability AI 还有个更大的8B模型没有公开发布。

目前（2024年6月20日）开源的UI工具中只有ComfyUI正式支持了SD3，Stable Diffusion WebUI还没有正式放出（有一个开发版本，建议再等等）。所以我这里将以ComfyUI为例，讲解SD3的使用方法。

安装 ComfyUI

之前我专门写过一篇文章介绍ComfyUI的安装方法，不过自己安装 ComfyUI 有几个拦路虎：

• 特殊网络设置，很多AI程序和模型都在外网，访问不便。
• 12G显存以上的Nvidia显卡，N卡轻者数千，重者数万。
• 一定的电脑动手能力，需要执行命令，解决一些程序冲突。

如果你能满足这三个条件，请看我这篇文章：ComfyUI 完全入门：安装部署从解放生产力以及工业化批量生产的角度看，ComfyUI 具备更广阔的应用前景，因此从这篇文章开始，我将开始介绍一些 ComfyUI 的概念和使用方法，让大家更快的掌握 ComfyUI 的使用技巧，创作出自己独特的艺术作品。https://mp.weixin.qq.com/s?__biz=MzkxNTUxNjU2OQ==&mid=2247484951&idx=1&sn=640080a52a6edaceb48fe3b888dfe82f&chksm=c15cbbe1f62b32f729b60aa6b1245002c9ac26959d8c57247674e41e05d2fe2c09639798427b&token=227908773&lang=zh_CN#rd

使用云环境镜像

通过云环境，我们可以先低成本的试用测试，然后再做决定。

这里给大家推荐两个我经常使用的云平台：

• AutoDL：AutoDL有丰富的GPU显卡类型，出道的比较早，价格也很公道，相比阿里云、腾讯云，简直实惠的不得了，更有大量的社区镜像可以使用。
• 京东云：目前京东云的GPU服务器全网价格最低（东哥豪气），更有免费代金券可以领取，机不可失。领取代金券，请发消息 “京东云” 到公众号 “萤火遛AI”。

我在这两个云平台都发布了ComfyUI的镜像，内置了常用的工作流，大家可以一键启动，直接使用，不用费劲吧啦的各种安装调测。最新版本的镜像已经内置SD3工作流，平台正在审核中，大家可以及时关注。

两个云服务器的使用方法请看这里的介绍：

云环境使用ComfyUI：一键开启，无需安装部署、无需特殊网络、无需懂技术云环境使用ComfyUI：一键开启，无需安装部署、无需特殊网络、无需懂技术。为了让大家能够快速上手ComfyUI，我在云平台上创建了一些镜像，无需安装，一键开启，浏览器直接打开，欢迎大家测试使用。以下是我目前开通的云平台。https://mp.weixin.qq.com/s?__biz=MzkxNTUxNjU2OQ==&mid=2247485167&idx=2&sn=a43586bdc4ef76e7f5a1c394410b8c64&chksm=c15cbb19f62b320f88d5279e7c8e4e116f684a1cf4d1e5671e112618b9e35f2d7c811b769035#rd

使用中如果遇到问题，可以直接向我反馈！

下载 SD3 Medium模型

目前SD3的模型发布在Huggingface网站：

https://huggingface.co/stabilityai/stable-diffusion-3-medium

访问不了外网的同学可以发消息“SD3”到公/众\号“萤火遛AI”，即可获取。

这里简单介绍下其中的几个模型文件：

• sd3_medium.safetensors 包括 MMDiT 和 VAE 模型，但不包括任何文本编码器。
• sd3_medium_incl_clips_t5xxlfp16.safetensors 包含所有必要的权重，包括 T5XXL 文本编码器的 fp16 版本，文件在15G左右，性能表现最佳，一般使用这个就好了。
• sd3_medium_incl_clips_t5xxlfp8.safetensors 包含所有必要的权重，包括 T5XXL 文本编码器的 fp8 版本，在质量和资源要求之间提供平衡，文件大概10G左右，电脑跑不起来fp16版本，可以用这个。
• sd3_medium_incl_clips.safetensors 包括除 T5XXL 文本编码器之外的所有必要权重。它需要的资源很少，但因为没有 T5XXL 文本编码器，模型的性能会有所降低。
• text_encoders 文件夹包含三个文本编码器，以方便用户单独使用。

这里有几个名词，我再解释一下：

VAE：因为扩散模型内部使用了一个压缩空间进行图片的生成，这样使用计算资源会少很多很多，但是生成出来的图片数据不是我们可见的图片数据格式，需要进行解码，VAE就是用来干这件事的。

文本编码器：首先计算机内部都是各种数字，AI模型内部也是各种数字参数。我们使用文本生成图片时，首先要把文本进行编码，转换为AI模型内部可以识别的信息，文本编码器就是来干这个事的。不同的模型可能搭配不同的文本编码器。

fp16、fp8：参数的数值精度，AI模型内部大部分都是数字参数，为了节省空间，在计算机内部这些数字通常使用浮点数来表示。精度越高，表示越精确，但是占用的空间也越大。一般采用fp16，但是如果文件体积过大，对空间使用比较敏感，fp8也可以接受。

在ComfyUI中使用SD3

SD3的使用很简单，我这里给大家贴出来一个最简单的SD3工作流：

除了选择的模型是 sd3 medium 之外，这个工作流和我们之前使用的SDXL、SD1.5的工作流并没有什么差别。

可能有些同学刚开始接触ComfyUI，我这里对其中的节点做一个简单的介绍。

Checkpoint加载器：加载SD基础模型，SD基础模型中一般会包含三个部分：扩散模型、文本编码器、潜空间数据解码器，对应到这个节点的三个输出：模型、CLIP和VAE。

CLIP文本编码器：这里有两个文本编码器，分别用来编码正向提示词和反向提示词，也就是画面中希望出现的内容和不希望出现的内容。他们都连接到“Checkpoint加载器”的CLIP输出点，因为我现在使用的这个SD3基础模型包含了一个文本编码器。有些SD3的基础模型可能不包含文本编码器，我们就需要使用单独的文本编码器加载节点。

K采样器：扩散模型生成图片的过程就是不断的去噪音采样，在采样的过程中，它需要依赖一个模型、采样条件（也就是要生成什么，来自提示词编码结果）、一个潜空间，然后这里边还有一些采样的参数，比如采样步数、采样器、噪音调度器、降噪幅度、CFG（提示词引导系数）等。关于这些参数的详细说明、Stable Diffusion的各种基础知识，以及SD实战技法可以看我的SD全面实战教程：小报童

另外我还测试了SD3的其它两个工作流（下载方式见文末）：

一是放大图片（不是单纯的放大，让细节更为完美）：

二是优化面部皮肤（SD3生成人物的面部过于光滑，不够真实）：

资源下载

为了方便大家入门，我整理了一批ComfyUI工作流，包括基本的文生图、图生图、ControlNet的使用、图像的处理、视频的处理等等，当然还有最近发布的SD3，发消息“工作流”到公众号“萤火遛AI”，即可领取。

另外，我创建了一个AI绘画专栏，加入专栏，可以零门槛，全面系统的学习 Stable Diffusion 创作，让灵感轻松落地！如有需要请点击链接或下方扫码进入：SD全面实战https://xiaobot.net/post/03340243-9df6-4ea0-bad6-9911a5034bd6

---

以上就是本文的主要内容。

用好 ComfyUI：

• 首先需要对 Stable Diffusion 的基本概念有清晰的理解，熟悉 ComfyUI 的基本使用方式；
• 然后需要在实践过程中不断尝试、不断加深理解，逐步掌握各类节点的能力和使用方法，提升综合运用各类节点进行创作的能力。

我将在后续文章中持续输出 ComfyUI 的相关知识和热门作品的工作流，帮助大家更快的掌握 ComfyUI，创作出满足自己需求的高质量作品。

请及时关注，以免错过重要信息。