ComfyUI 视频背景替换工作流主要包括以下几个方面:
使用SAM来分割视频背景,这里测试过SAM2,还有它和florence结合的,效果都不太理想,生成的蒙版不全或者溢出,所以这里用SAM之前的版本。提示词和阈值,大家根据实际情况调整。移除背景后,使用图像遮罩复合,生成一个灰色背景的图像批次,这是为了后续和背景融合时,过渡的更自然顺滑。灰色背景可以帮助柔化前景对象(如人物)的边缘,减少锯齿或硬边缘的视觉效果。Segment Anything语义分割转蒙版在网盘里可以找到对应的模型,下载后按文件夹目录地址放置。Tip:为什么是灰色柔化边缘:灰色背景可以帮助柔化前景对象(如人物)的边缘,减少锯齿或硬边缘的视觉效果。改善抠图质量:对于一些难以完美分割的区域(如头发、半透明物体),灰色背景可以提供更自然的过渡。为后续处理做准备:灰色背景可以为后续的图像处理步骤(如颜色匹配、混合等)提供一个中性的基础。减少背景干扰:在某些情况下,完全透明的背景可能会在后续处理中引入不必要的伪影。灰色背景可以减少这种风险。增加深度感:浅灰色背景可以给前景对象增加一些深度感,使其看起来更加立体。便于视觉检查:灰色背景使得前景对象的轮廓和细节更容易被观察和评估。
这个过程的核心是优化和改善前景对象的边缘,使其能够与新背景无缝融合,同时保持前景细节的完整性和自然性。通过遮罩模糊生长(growMaskWithBlur),调整扩展和模糊半径来控制边缘的遮罩。1.边缘处理的主要目的:改善前景(如人物)和背景之间的过渡效果消除锯齿和不自然的硬边缘使整体合成效果更加自然和平滑2.遮罩的作用:白色区域(人物轮廓):这是需要重点处理和优化的区域灰色过渡区域:这是创造平滑过渡的关键区域,允许在前景和背景之间进行柔和blend3.SetLatentNoiseMask的功能:在latent space中指导模型关注和处理特定区域主要关注白色和灰色区域,这些区域会得到更多的处理和调整4.处理过程:模型在白色和灰色区域进行精细处理包括边缘平滑、消除锯齿、调整像素等操作特别注重前景和背景交界处的自然过渡5.最终效果:人物轮廓边缘变得更加平滑自然减少或消除锯齿和硬边缘在前景(人物)和新背景之间创造更自然的blend效果6.背景替换:原始背景(黑色区域)将被新内容替换边缘处理确保新背景与处理过的前景边缘自然融合[heading4]模型与lora[content]模型部分,选一个现有和视频画风对应的即可,lora用了一个animate lcm,加速生成的时间。
背景部分,可以是图片或者视频,为了有一个前后的视觉效果,这里加了一个图像的模糊,让生成的视频有种景深的效果[heading4]前景与背景的初步融合[content]图像遮罩复合(ImageCompositeMasked)的作用:这个步骤主要用于将前景(人物)精确地与新背景合并。它使用遮罩来决定哪些部分应该保留前景,哪些部分应该显示背景。图像混合(ImageBlend)的额外作用:微调和平滑化:即使在遮罩复合后,前景和背景的边界可能还是有些生硬。图像混合可以帮助进一步软化这些边界。颜色协调:它可以帮助调整前景和背景的整体色调,使整个图像看起来更加和谐。细节增强:通过适当的混合模式,可以增强某些细节或纹理。灵活性:允许对最终效果进行更精细的控制,例如通过调整混合强度(在您的设置中是0.8)来微调效果。