Datawhale X 魔搭 AI夏令营第四期 | AIGC文生图——可图Kolors-LoRA风格故事 Task1笔记_kolors lora

Hi，大家好，我是半亩花海。最近在尝试学习AIGC的内容，并报名参加了Datawhale举办的2024年AI第四期夏令营，主要学习内容是从零入门AI生图原理和实践。本次活动基于魔搭社区“可图Kolors-LoRA风格故事挑战赛”进而开展的项目实践学习，很适合像我这样的想入门并实践AIGC文生图的初学者参与。

---

一、项目解读

1. 官方教程：Task 1 从零入门AI生图原理&实践

2. 项目任务：

• 在可图Kolors模型的基础上训练LoRA模型，生成无限风格，如水墨画风格、水彩风格、赛博朋克风格、日漫风格......
• 基于 LoRA 模型生成8张图片组成连贯故事，故事内容可自定义；基于8图故事，评估LoRA风格的美感度及连贯性

样例：偶像少女养成日记（如下图所示）

---

二、文生图

2.1 文生图的历史

文生图（Text-to-Image Generation）是一种通过文本生成图像的技术，其发展历程可以追溯到早期的计算机视觉和自然语言处理研究。这一技术的历史可以分为几个关键阶段：

• 早期探索（20世纪60年代-20世纪90年代）
• 基于统计模型的方法（2000年代）
• 深度学习的崛起（2010年代）
• 大规模预训练模型（2020年代）

2.2 文生图的基础知识介绍

文生图主要以 SD 系列基础模型为主，以及在其基础上微调的 LoRA 模型和人物基础模型等。

• 提示词：一般写法为主体描述，细节描述，修饰词，艺术风格，艺术家
• LoRA：Low-Rank Adaptation，低秩适应，轻量级的微调方法，被用来对预训练好的大模型进行针对性优化，以实现对特定主题、风格或任务的精细化控制。
• ComfyUI：是一个工作流工具，主要通过直观的界面和集成实现AI模型配置和训练过程的简化和优化。
• 参考图控制：ControlNet 是一种用于精确控制图像生成过程的技术组件，通过引入额外的控制信号，用户能更具体地指导图像生成的各方面（如姿势关键点、分割图、深度图、颜色等）。

---

三、跑通baseline

3.1 搭建代码平台

链接：阿里云免费试用 - 阿里云 (aliyun.com)。

1. 开通阿里云PAI-DSW免费试用

• 新用户需要先注册，再绑定阿里云账号
• 新用户还需要完成阿里云账号的实名认证

按照下面的步骤开通PAI-DSW试用，即可获得5000算力时且有效期3个月，如下所示即可。

2. 授权魔搭社区

链接：我的Notebook · 魔搭社区。

按操作正常进行至如下图即可（如果这一步授权失败，可跳过此步骤，继续往下进行）。

3. 报名赛事

赛事链接：可图Kolors-LoRA风格故事挑战赛_创新应用大赛_天池大赛-阿里云天池的赛制。

点击报名参赛，则报名成功，再自己组个队即可。

4. 在魔搭社区创建PAI实例

链接：我的Notebook · 魔搭社区。

接下来我们便可以在ModelScope里面创建实例。如果在上一步授权失败，可到阿里云控制台创建 并打开实例，具体步骤详见下方步骤。

打开实例之后 ，出现下面右侧的界面即为打开实例成功： 

点击 Terminal，可以进入终端/命令行，如下所示。

3.2 半小时体验一站式baseline

1. 下载baseline文件

git lfs install
git clone https://www.modelscope.cn/datasets/maochase/kolors.git

2. 打开baseline文件

3. 安装环境并重启kernel

!pip install simple-aesthetics-predictor
 
!pip install -v -e data-juicer
 
!pip uninstall pytorch-lightning -y
!pip install peft lightning pandas torchvision
 
!pip install -e DiffSynth-Studio

安装 Data-Juicer 和 DiffSynth-Studio。

• Data-Juicer：数据处理和转换工具，旨在简化数据的提取、转换和加载过程
• DiffSynth-Studio：高效微调训练大模型工具

环境安装完成后，点击下面这个按钮（restart the kernel）进行重启。 

4. 调整prompt并设置图片风格及描述（可选）

• 正向描述词：你想要生成的图片应该包含的内容
• 反向提示词：你不希望生成的图片的内容

5. 运行代码+获得图片

下面的代码块按照功能主要分成这几类（完整代码见最后）：

• 使用Data-Juicer处理数据，整理训练数据文件
• 使用DiffSynth-Studio在基础模型上，使用前面整理好的数据文件进行训练微调
• 加载训练微调后的模型
• 使用微调后的模型，生成用户指定的prompt提示词的图片

3.3 将微调结果上传魔搭

链接：模型创建 · 魔搭社区。

1. 移动结果文件

新建 Terminal（File→New→Terminal），粘贴如下命令，回车执行。

mkdir /mnt/workspace/kolors/output & cd 
cp /mnt/workspace/kolors/models/lightning_logs/version_0/checkpoints/epoch\=0-step\=500.ckpt /mnt/workspace/kolors/output/
cp /mnt/workspace/kolors/1.jpg /mnt/workspace/kolors/output/

2. 下载结果文件

双击进入output文件夹，分别下载两个文件到本地。

3. 创建并上传模型

点击魔搭链接，创建模型，英文名称建议格式：xxx-LoRA；中文名称建议格式：队伍名称-可图Kolors训练-xxx。

这样就算创建完成并发布在创空间讨论区了。此外，我们也可以来到创空间，查看自己的模型是否发布：进入专区→模型→（输入账号名）。

3.4 关闭PAI实例

链接：我的Notebook · 魔搭社区。

运行完成后，别忘了回到魔搭，【关闭】实例，否则会一直消耗你的试用额度。每小时消耗大概7个试用额度（总共5000个，有效期三个月）。

---

四、完整代码（汇总版）

代码其实baseline文件里就有，这里再放一下保持文章的完整性。

4.1 安装Data-Juicer 和 DiffSynth-Studio

!pip install simple-aesthetics-predictor
 
!pip install -v -e data-juicer
 
!pip uninstall pytorch-lightning -y
!pip install peft lightning pandas torchvision
 
!pip install -e DiffSynth-Studio

再重启 Notebook kernel：找到 “restart the kernel” 这个按钮即可。

4.2 下载数据集

1. 加载并缓存数据集（lowres_anime）的训练部分

from modelscope.msdatasets import MsDataset
 
ds = MsDataset.load(
    'AI-ModelScope/lowres_anime',
    subset_name='default',
    split='train',
    cache_dir="/mnt/workspace/kolors/data"
)

2. 保存数据集中的图片及元数据

import json, os
from data_juicer.utils.mm_utils import SpecialTokens
from tqdm import tqdm
 
 
os.makedirs("./data/lora_dataset/train", exist_ok=True)
os.makedirs("./data/data-juicer/input", exist_ok=True)
with open("./data/data-juicer/input/metadata.jsonl", "w") as f:
    for data_id, data in enumerate(tqdm(ds)):
        image = data["image"].convert("RGB")
        image.save(f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg")
        metadata = {"text": "二次元", "image": [f"/mnt/workspace/kolors/data/lora_dataset/train/{data_id}.jpg"]}
        f.write(json.dumps(metadata))
        f.write("\n")

4.3 数据处理

1. 使用 data-juicer 处理数据

data_juicer_config = """
# global parameters
project_name: 'data-process'
dataset_path: './data/data-juicer/input/metadata.jsonl'  # path to your dataset directory or file
np: 4  # number of subprocess to process your dataset
text_keys: 'text'
image_key: 'image'
image_special_token: '<__dj__image>'
export_path: './data/data-juicer/output/result.jsonl'
# process schedule
# a list of several process operators with their arguments
process:
    - image_shape_filter:
        min_width: 1024
        min_height: 1024
        any_or_all: any
    - image_aspect_ratio_filter:
        min_ratio: 0.5
        max_ratio: 2.0
        any_or_all: any
"""
with open("data/data-juicer/data_juicer_config.yaml", "w") as file:
    file.write(data_juicer_config.strip())
 
!dj-process --config data/data-juicer/data_juicer_config.yaml

2. 保存处理好的数据

import pandas as pd
import os, json
from PIL import Image
from tqdm import tqdm
 
 
texts, file_names = [], []
os.makedirs("./data/lora_dataset_processed/train", exist_ok=True)
with open("./data/data-juicer/output/result.jsonl", "r") as file:
    for data_id, data in enumerate(tqdm(file.readlines())):
        data = json.loads(data)
        text = data["text"]
        texts.append(text)
        image = Image.open(data["image"][0])
        image_path = f"./data/lora_dataset_processed/train/{data_id}.jpg"
        image.save(image_path)
        file_names.append(f"{data_id}.jpg")
data_frame = pd.DataFrame()
data_frame["file_name"] = file_names
data_frame["text"] = texts
data_frame.to_csv("./data/lora_dataset_processed/train/metadata.csv", index=False, encoding="utf-8-sig")
data_frame

4.4 训练模型 

1. 下载模型

from diffsynth import download_models
 
download_models(["Kolors", "SDXL-vae-fp16-fix"])

2. 查看训练脚本的输入参数

!python DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py -h

3. 开始训练

提示：

• 在训练命令中填入 --modelscope_model_id xxxxx 以及 --modelscope_access_token xxxxx 后，训练程序会在结束时自动上传模型到 ModelScope
• 部分参数可根据实际需求调整，例如 lora_rank 可以控制 LoRA 模型的参数量

import os
 
cmd = """
python DiffSynth-Studio/examples/train/kolors/train_kolors_lora.py \
  --pretrained_unet_path models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors \
  --pretrained_text_encoder_path models/kolors/Kolors/text_encoder \
  --pretrained_fp16_vae_path models/sdxl-vae-fp16-fix/diffusion_pytorch_model.safetensors \
  --lora_rank 16 \
  --lora_alpha 4.0 \
  --dataset_path data/lora_dataset_processed \
  --output_path ./models \
  --max_epochs 1 \
  --center_crop \
  --use_gradient_checkpointing \
  --precision "16-mixed"
""".strip()
 
os.system(cmd)

4. 加载模型

from diffsynth import ModelManager, SDXLImagePipeline
from peft import LoraConfig, inject_adapter_in_model
import torch
 
 
def load_lora(model, lora_rank, lora_alpha, lora_path):
    lora_config = LoraConfig(
        r=lora_rank,
        lora_alpha=lora_alpha,
        init_lora_weights="gaussian",
        target_modules=["to_q", "to_k", "to_v", "to_out"],
    )
    model = inject_adapter_in_model(lora_config, model)
    state_dict = torch.load(lora_path, map_location="cpu")
    model.load_state_dict(state_dict, strict=False)
    return model
 
 
# Load models
model_manager = ModelManager(torch_dtype=torch.float16, device="cuda",
                             file_path_list=[
                                 "models/kolors/Kolors/text_encoder",
                                 "models/kolors/Kolors/unet/diffusion_pytorch_model.safetensors",
                                 "models/kolors/Kolors/vae/diffusion_pytorch_model.safetensors"
                             ])
pipe = SDXLImagePipeline.from_model_manager(model_manager)
 
# Load LoRA
pipe.unet = load_lora(
    pipe.unet,
    lora_rank=16, # This parameter should be consistent with that in your training script.
    lora_alpha=2.0, # lora_alpha can control the weight of LoRA.
    lora_path="models/lightning_logs/version_0/checkpoints/epoch=0-step=500.ckpt"
)

5. 生成图像

torch.manual_seed(0)
image = pipe(
    prompt="二次元，一个紫色短发小女孩，在家中沙发上坐着，双手托着腮，很无聊，全身，粉色连衣裙",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("1.jpg")

torch.manual_seed(1)
image = pipe(
    prompt="二次元，日系动漫，演唱会的观众席，人山人海，一个紫色短发小女孩穿着粉色吊带漏肩连衣裙坐在演唱会的观众席，舞台上衣着华丽的歌星们在唱歌",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("2.jpg")

torch.manual_seed(2)
image = pipe(
    prompt="二次元，一个紫色短发小女孩穿着粉色吊带漏肩连衣裙坐在演唱会的观众席，露出憧憬的神情",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度，色情擦边",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("3.jpg")

torch.manual_seed(5)
image = pipe(
    prompt="二次元，一个紫色短发小女孩穿着粉色吊带漏肩连衣裙，对着流星许愿，闭着眼睛，十指交叉，侧面",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度，扭曲的手指，多余的手指",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("4.jpg")

torch.manual_seed(0)
image = pipe(
    prompt="二次元，一个紫色中等长度头发小女孩穿着粉色吊带漏肩连衣裙，在练习室练习唱歌",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("5.jpg")

torch.manual_seed(1)
image = pipe(
    prompt="二次元，一个紫色长发小女孩穿着粉色吊带漏肩连衣裙，在练习室练习唱歌，手持话筒",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("6.jpg")

torch.manual_seed(7)
image = pipe(
    prompt="二次元，紫色长发少女，穿着黑色连衣裙，试衣间，心情忐忑",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("7.jpg")

torch.manual_seed(0)
image = pipe(
    prompt="二次元，紫色长发少女，穿着黑色礼服，连衣裙，在台上唱歌",
    negative_prompt="丑陋、变形、嘈杂、模糊、低对比度",
    cfg_scale=4,
    num_inference_steps=50, height=1024, width=1024,
)
image.save("8.jpg")

import numpy as np
from PIL import Image
 
 
images = [np.array(Image.open(f"{i}.jpg")) for i in range(1, 9)]
image = np.concatenate([
    np.concatenate(images[0:2], axis=1),
    np.concatenate(images[2:4], axis=1),
    np.concatenate(images[4:6], axis=1),
    np.concatenate(images[6:8], axis=1),
], axis=0)
image = Image.fromarray(image).resize((1024, 2048))
image

4.5 将微调结果上传魔搭

链接：模型创建 · 魔搭社区。

移动结果文件：新建 Terminal（File→New→Terminal），粘贴如下命令，回车执行。

mkdir /mnt/workspace/kolors/output & cd 
cp /mnt/workspace/kolors/models/lightning_logs/version_0/checkpoints/epoch\=0-step\=500.ckpt /mnt/workspace/kolors/output/
cp /mnt/workspace/kolors/1.jpg /mnt/workspace/kolors/output/