在训练 Lora 模型以保证人物一致性的前提下让角色闭眼,以下是一些可能的方法和参考信息:
[title]吉川老师:2024全球AI电影马拉松大赛最佳美术奖《新哪吒闹海》全案拆解[heading1]一. 人物设计[heading2] 角色重绘 [content]得益于对AI大模型微调finetuning技术的研究,有别于整体dreambooth训练,我们逐步摸索出一套简洁高效的训练特定画风lora和特定角色lora的方法,这对于角色一致性的锁定有着决定性的帮助。举例来说,从哪吒的短褂+小短裤,到额前的火焰印记,到流苏耳饰等细微之处的统一,完善了角色的一致性。最终,针对不同主要角色分别训练角色lora,使得多人同框镜头的一致性获得了保障。
如何让我们在SD中绘制的角色保持一致,这是人们长久以来在探索AI绘画的领域当中一直寻求解决的问题。目前来看,实现这个目标最好的方法就是使用LoRA。但是要训练一个LoRA,我们首先要至少有一个15到20张图片的训练集。在一个固定的形象中,最重要的是面部五官,其次是体型、服装、配饰之类的。所以,我们在收集训练集的过程当中,收集形象的头部图片是很重要的。现实中的人物我们可以通过照片来进行训练,但如果是我们在AI中生成的虚构角色呢?我们就要让这个虚构角色能稳定输出多张不同角度的图片才能达到训练集的要求。今天,我们就来学习一下,如何创建一个虚构人物的多视图角色表。#01#02#03#04
预处理生成tags打标文件后,就需要对文件中的标签再进行优化,一般有两种优化方法:方法一:保留全部标签对标签不做删标处理,直接用于训练。一般在训练画风,或想省事快速训练人物模型时使用。优点:不用处理tags省时省力,过拟合的出现情况低。缺点:风格变化大,需要输入大量tag来调用、训练时需要把epoch训练轮次调高,导致训练时间变长。方法二:删除部分特征标签训练某个特定角色,要保留蓝眼睛作为其自带特征,那么就要将blue eyes标签删除,以防止将基础模型中的blue eyes引导到训练的LoRA上。简单来说删除标签即将特征与LoRA做绑定,保留的话画面可调范围就大。一般需要删掉的标签:如人物特征long hair,blue eyes这类。不需要删掉的标签:如人物动作stand,run这类,人物表情smile,open mouth这类,背景simple background,white background这类,画幅位置等full body,upper body,close up这类。优点:调用方便,更精准还原特征。缺点:容易导致过拟合,泛化性降低。过拟合:过拟合会导致画面细节丢失、画面模糊、画面发灰、边缘不齐、无法做出指定动作、在一些大模型上表现不佳等情况。