当前位置:   article > 正文

第四讲:LORA模型训练-Tag标签处理,精准解析图片元素_lora 打标算法

lora 打标算法

l 关于Tag标签文本,需要注意的重点知识(敲黑板,记笔记!):

Tag标签文本是对应到每张素材图中的英文内容描述。即Tag标签中的文本内容就是将素材图中展示的主体内容和部分元素特征用英文字词或短句的形式描述出来。通过SD软件中的训练-图像预处理功能,我们可以实现自动对数据集中的每张素材图进行Tag标签的标注。目前常用的有三种自动标注方式(后续为大家再补充2个):

l 使用BLIP进行标签处理(自然语言),内容形式如:A woman is running in a black dress。它的内容形式结果是一种整体句式处理,可以看到它能够更为具体的描述某个正在进行的动作姿态或需要详细描述的某个特征,但是可能会忽略一些其他元素的描述。另外,可以在SD软件中设置句式长度,描述更多细节,但是错误率可能也会增加,即自动描述细节的内容可能会和图片某些特征不相符,一般默认即可。

l 使用Deepbooru进行标签处理,内容形式如:A woman,running,black dress。它的内容形式是一种词组处理,可以看到它生成了描述内容和细节的简短字词,而不能自动生成描述某个详细特征的句式。另外,可以在SD软件中设置词组数量,描述更多细节,但是错误率也同样可能会增加,一般默认即可。

l 使用WD1.4-tagger标签器进行标签处理,是一个安装插件,生成内容形式也是同Deepbooru类似的一种词组处理形式,但是生成的标签词组会给出可信符合度排名,自动获取权重排名比较靠前的标签。

就像以上所述,自动打标处理的Tag标签提示词文本,可能会有错误或者不符合图片内容的标签出现,如果不进行处理,那么机器模型会直接将这些错误标签学习到最终的Lora模型中,最后调用模型进行创作时,可能会出现错误或者无法达到我们预期的图片结果。所以,我们需要对自动打标处理的结果进行检查,然后根据需求和实际情况增加、删除、修改处理标签内容。

至于到底使用哪种标注方式更好,并没有一个定性,不能说BLIP打标后训练出的Lora模型一定就比用Deepbooru打标后的好。老师训练过很多Lora模型,三种方式都用过很多次,但是目前更倾向于结合使用,即同一个数据集中包含了BLIP和Deepbooru(或者WD1.4-tagger)两种打标方式的Tag标签文本,或者同一个Tag标签文本中包含了其中两种打标方式,都可以达到自己预期的训练效果,所以关于这点,不必纠结。Tag标签只是对你所使用的素材图进行内容描述,只要偏差不是太过,机器都可以理解你的意思,当然是灵活运用,准确描述出所需求的内容即可。

l Tag标签的运用

A. 特征词的处理

对于人物Lora模型训练,如果需要训练出的模型人物保留原素材人物的某部分特征,可以将Tag标签中关于此特征的描述统一删除,比如删除描述头发、衣服、额头、眼睛等特征的字词或者语句,这样,模型机器就会将这部分特征作为人物的整体进行学习。同理,画风的Tag标签处理方式也是如此。

举例说明,就像头顶带着紧箍的孙悟空,紧箍是孙悟空的其中一个标志性特征,将Tag标签文本中关于紧箍的字词删除后,那么紧箍就会和孙悟空这个人物形象作为一个整体被模型机器所学习,最后出来的效果就是一个头顶戴着紧箍的孙悟空。

相反,如果我们需要创作可以自由控制是否戴着紧箍的孙悟空人物绘图,首先原数据集中的素材图需要有戴着紧箍和没有戴着紧箍孙悟空的不同形象,同时,在Tag标签文本中要将“戴着紧箍”的英文字词标注保留下来,这样,模型机器学习过程中就会知道这是一种头饰类型的物品,是人物整体外的一种物品。那么在最终的Lora成品模型调用时,就可以通过添加或删除正向提示词中关于紧箍的字词(即触发词),实现自由控制人物是否佩戴紧箍了。

再比如,如果我们训练美少女战士的Lora模型,素材图中都是金黄色头发的美少女战士,那么金黄色的长发是她最明显的特征之一,如果想要固定这个特征到模型中,那就删除一切和头发描述相关的Tag标签词,这样金黄色的长发就会作为人物整体形象被机器学习。如果想要模型自由控制头发的颜色、长短呢?这里不用多说了吧,参考以上紧箍方式即可。

总之,一句话:

B.标签数量、训练次数和素材数量的建议

训练时间素材数量训练次数标签数量
时间充裕
时间充裕修改优化
时间紧迫
时间紧迫

总结:

想要机器自动学习的特征词,删除。

想要自由控制的特征词,保留。

关于Tag标签的使用,要学会举一反三,灵活运用。

下期第五讲内容预告:LORA模型训练-探秘数据集整理,挑战核心闪电战

更详细的视频课程链接地址:

第四讲更详细视频教程icon-default.png?t=N7T8https://huke88.com/course/161698.html

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/盐析白兔/article/detail/400459
推荐阅读
相关标签
  

闽ICP备14008679号