Datawhale AI夏令营第四期 AIGC文生图方向 Task1笔记

一、文生图的基础知识

1.1概念介绍

文生图是一种基于深度学习的生成技术，即能够理解给定的文本语义，将其转化成为视觉信息，并且生成具有文本给定特征信息的图像。

1.2技术历史与背景

文生图的技术核心结合了NLP(自然语言处理)和CV(计算机视觉)的优质算法，其发展追溯到20世纪60-90年代，当时的技术因为算力有限，只局限于依赖规则和模板匹配，生成简单图像。21世纪10年代，随着GANs(生成对抗网络)的出现，文生图技术得到了极快发展，进行对抗性训练的模型有Deep Convolutional GANs(DCGANs)、stackGANs等等，图像的质量也得到极大提升。从2020开始，大规模预训练模型成为主导，CLIP、Stable Diffusion、DALL·E等模型在文本与图像的高度一致性、图像的创意性和细节表现能力上发挥作用，使得文生图技术逐渐拥有社会影响力。

1.3生图过程

1.3.1 输入提示词和参考图像(可选)

训练过程首先接收输入的提示词（文本描述）和可选的参考图像。提示词是用户提供的文本描述，正向prompts定义了期望生成图像的内容和风格，负向prompts则定义了图像中不应该出现的特征信息。参考图像则可以帮助模型更好地理解视觉特征，但并非必需。

1.3.2 Lora模型训练

在这个阶段，LoRA（Low-Rank Adaptation）技术被用于微调预训练模型。LoRA通过引入低秩矩阵分解，减少了模型的参数数量，允许模型更高效地适应新的任务。在训练过程中，模型将根据输入的提示词与可能的参考图像进行调整，以生成符合要求的图像，对任务有精细化的控制。

1.3.3 生成图片

使用经过训练之后的Lora模型进行训练，输入新的提示词，模型将根据提示词生成对应特征的图像。

二、运行Baseline&理解代码框架

2.1环境配置

开通阿里云PAI-DSWhttps://free.aliyun.com/?productCode=learn获取算力

在魔搭平台授权并且创建实例https://www.modelscope.cn/my/mynotebook/authorization

创建实例

启动实例

2.2运行Baseline代码

2.1.1下载Baseline文件

打开终端并复制代码运行

git lfs install
git clone https://www.modelscope.cn/datasets/maochase/kolors.git

2.2.2运行Baseline文件

2.3代码整体理解

2.3.1安装环境

安装一些深度学习和数据处理工具库

simple-aesthetics-predictor---图像美学预测库，评估图像的美学质量

data-juicer---数据处理和增强库，数据清洗、预处理和增强

pytorch-lightning---提供高层次的API，简化PyTorch训练流程

peft lightning---优化模型的参数和高效微调

torchvision---提供常用的数据集、模型框架和图像处理工具

DiffSynth-Studio---高效微调训练工具

!pip install simple-aesthetics-predictor
 
!pip install -v -e data-juicer
 
!pip uninstall pytorch-lightning -y
!pip install peft lightning pandas torchvision
 
!pip install -e DiffSynth-Studio

2.3.2下载数据集

这里使用MsDataset.load的方法，加载了AI-ModelScope/lowres_anime的train部分，使用的是默认子集，数据切片split表示加载训练集数据，cache_dir表示数据缓存目录

from modelscope.msdatasets import MsDataset
 
ds = MsDataset.load(
    'AI-ModelScope/lowres_anime',
    subset_name='default',
    split='train',
    cache_dir="/mnt/workspace/kolors/data"
)

os.makedirs用于存储处理后的图像和元数据目录，exist_ok=True保证如果目录存在则不报错，之后将图像转换为RGB格式确保一致性，保存在对应的目录中。metadata创建一个字典，包含文本描述和图像路径，最后将元数据以json格式写入文件。

import json, os
from data_juicer.utils.mm_utils import SpecialTokens
from tqdm import tqdm
 
 
os.makedirs("./data/lora_dataset/train", exist_ok=True)
os.makedirs("./data/data-juicer/input", exist_ok=True)
with open("./data/data-juicer/input/metadata.jsonl", "w") as f:
    for data_id, data in enumerate(tqdm(ds)):
        image = data["image"].convert("RGB")
        image.save(f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg")
        metadata = {"text": "二次元", "image": [f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg"]}
        f.write(json.dumps(metadata))
        f.write("\n")

2.3.3处理并保存数据

data_juicer_config.yaml是一个数据处理的配置文件，定义有全局参数、数据集路径、处理流程等设置

dj-process是一个数据处理命令，使用了data_juicer_config.yaml配置文件，这行命令过滤不符合条件的图片，生成一个result.jsonl文件

读取result.jsonl文件，获取处理后图像的路径和文本描述，将图像保存到指定路径中

创建metadata.csv文件存储每个图像的文件名字和文本描述

data_juicer_config = """
# global parameters
project_name: 'data-process'
dataset_path: './data/data-juicer/input/metadata.jsonl'  # path to your dataset directory or file
np: 4  # number of subprocess to process your dataset
text_keys: 'text'
image_key: 'image'
image_special_token: '<__dj__image>'
export_path: './data/data-juicer/output/result.jsonl'
# process schedule
# a list of several process operators with their arguments
process:
    - image_shape_filter:
        min_width: 1024
        min_height: 1024
        any_or_all: any
    - image_aspect_ratio_filter:
        min_ratio: 0.5
        max_ratio: 2.0
        any_or_all: any
"""
with open("data/data-juicer/data_juicer_config.yaml", "w") as file:
    file.write(data_juicer_config.strip())
 
!dj-process --config data/data-juicer/data_juicer_config.yaml
 
 
import pandas as pd
import os, json
from PIL import Image
from tqdm import tqdm
 
 
texts, file_names = [], []
os.makedirs("./data/lora_dataset_processed/train", exist_ok=True)
with open("./data/data-juicer/output/result.jsonl", "r") as file:
    for data_id, data in enumerate(tqdm(file.readlines())):
        data = json.loads(data)
        text = data["text"]
        texts.append(text)
        image = Image.open(data["image"][0])
        image_path = f"./data/lora_dataset_processed/train/{data_id}.jpg"
        image.save(image_path)
        file_names.append(f"{data_id}.jpg")
data_frame = pd.DataFrame()
data_frame["file_name"] = file_names
data_frame["text"] = texts
data_frame.to_csv("./data/lora_dataset_processed/train/metadata.csv", index=False, encoding="utf-8-sig")
data_frame

2.3.4Lora模型微调&下载模型

Kolors为预训练U-Net模型和文本编码器，SDXL-vae-fp16-fix为训练的VAE模型

训练脚本为‘train_kolors_lora.py’,用于Lora模型的训练，结合预训练的U-Net和文本编辑器

# 下载模型
from diffsynth import download_models
download_models(["Kolors", "SDXL-vae-fp16-fix"])
#模型训练
import os
cmd = """
python DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py \
  --pretrained_unet_path models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors \
  --pretrained_text_encoder_path models/kolors/Kolors/text_encoder \
  --pretrained_fp16_vae_path models/sdxl-vae-fp16-fix/diffusion_pytorch_model.safetensors \
  --lora_rank 16 \
  --lora_alpha 4.0 \
  --dataset_path data/lora_dataset_processed \
  --output_path ./models \
  --max_epochs 1 \
  --center_crop \
  --use_gradient_checkpointing \
  --precision "16-mixed"
""".strip()
 
os.system(cmd)

LoraConfig定义Lora的参数，包括Lora的秩(决定模型复杂度)，缩放系数lora_alpha(调整权重)，init_lora_weights(初始化lora权重，采用高斯分布)，target_modules(应用的Lora模块)

后续注入Lora到模型里并加载权重

模型加载用的精度为torch.float16，运行设备为cuda。用SDXLImagePipeline生成管道封装U-Net，文本编码器和VAE模型，用于生图任务

最后加载Lora到模型中，这里的参数与训练时的参数一致

from diffsynth import ModelManager, SDXLImagePipeline
from peft import LoraConfig, inject_adapter_in_model
import torch
def load_lora(model, lora_rank, lora_alpha, lora_path):
    lora_config = LoraConfig(
        r=lora_rank,
        lora_alpha=lora_alpha,
        init_lora_weights="gaussian",
        target_modules=["to_q", "to_k", "to_v", "to_out"],
    )
    model = inject_adapter_in_model(lora_config, model)
    state_dict = torch.load(lora_path, map_location="cpu")
    model.load_state_dict(state_dict, strict=False)
    return model
 
 
# Load models
model_manager = ModelManager(torch_dtype=torch.float16, device="cuda",
                             file_path_list=[
                                 "models/kolors/Kolors/text_encoder",
                                 "models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors",
                                 "models/kolors/Kolors/vae/diffusion_pytorch_model.safetensors"
                             ])
pipe = SDXLImagePipeline.from_model_manager(model_manager)
 
# Load LoRA
pipe.unet = load_lora(
    pipe.unet,
    lora_rank=16, # This parameter should be consistent with that in your training script.
    lora_alpha=2.0, # lora_alpha can control the weight of LoRA.
    lora_path="models/lightning_logs/version_0/checkpoints/epoch=0-step=500.ckpt"
)

这个管道设置了正向提示词，负向提示词，分类自由引导强度为4，说明生成图像对提示词依赖较弱，具有多样性，同时推理数量为50，图片长宽像素为1024

torch.manual_seed(0)
image = pipe(
    prompt="二次元，一个紫色短发小女孩，在家中沙发上坐着，双手托着腮，很无聊，全身，粉色连衣裙",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("1.jpg")

经历完这些步骤就可以完整的生成你想要的图片，还可以修改提示词等参数来生成属于你自己的一套图片。