ControlNet是什么？

ControlNet 是一种由斯坦福大学张吕敏发布的神经网络模型，常与预训练的图像扩散模型如 Stable Diffusion 结合使用，用于控制 AI 绘画的生成过程。 其工作原理是将 Stable Diffusion 模型的权重复制到 ControlNet 的可训练副本中，并利用外部条件向量训练副本。条件输入类型多样，如涂鸦、边缘图、姿势关键点、深度图、分割图、法线图等，以此指导生成图像的内容。 ControlNet 具有以下特点和优势： 1. 设计思想提供了训练过程中的鲁棒性，避免过度拟合，允许在小规模甚至个人设备上训练。 2. 架构具有强大的兼容性与迁移能力，可用于其他扩散模型，增强图像生成的多样性和可控性。 其应用不仅限于 AI 绘画，还可用于图像编辑、风格迁移、图像超分辨率等多种计算机视觉任务，展现出在 AIGC 领域的广泛应用潜力。 在使用方面，如在 Stable Diffusion 中，无论是文生图还是图生图，ControlNet 能实现更细化的控制，如构图、轮廓、形象姿态、色彩风格等。使用逻辑是通过预处理器将图片提取特征并转换为 AI 可识别的形式，再通过模型进行图像生成。预处理器如同“翻译软件”。例如绘制女孩模仿库里打篮球的图片，输入关键词和选择相应预处理器、模型等操作后即可生成。 在 Stable Diffusion 中使用 ControlNet 时，要注意一些设置，如确保 ControlNet 设置下的路径与本地 Stable Diffusion 的路径同步。基本流程包括点击 Enable 启用，选择预处理器，调整权重、控制生成步骤、反色模式等，还需根据情况选择合适的模型。

以下是关于 ControlNet 的教程： ControlNet 是 Stable Diffusion 中的一个功能，能够让用户更精确地控制出图结果。比如可以控制人物的动作、建筑物的线条等。 在使用时，大模型和关键词正常填写生成所需照片。然后鼠标滑到最下面点击“ControlNet”： 1. 点击空白处上传指定姿势的照片。 2. 点击“启用”。 3. 在“预处理器”和“模型”里选择“openpose”，这用于让计算机识别人物姿势。 接着点击“预览预处理结果”，原照片右边会出现人物姿势的线条，最后点击生成照片即可得到指定姿势的图片。 另外，如果是用秋叶大佬的整合包，会自带 ControlNet 插件。若没有，可去扩展中搜索安装。 其使用逻辑是通过预处理器将图片提取特征并转换为 AI 可识别的形式，再通过模型进行图像生成。例如绘制女孩打篮球模仿库里动作的图片，输入相关关键词，选择大模型，在 ControlNet 中导入库里照片，选择合适的预处理器和模型，调试参数后生成。 在 ControlNet 中还可以尝试不同的预处理器，如 softedge_pidinet、depth、canny、tile 等，可能会得到不错的效果。同时要注意电脑配置，避免出现显存不足等问题。

ControlNet 是一种由斯坦福大学张吕敏发布的神经网络模型，常与预训练的图像扩散模型（如 Stable Diffusion）结合使用。 其重要作用包括： 1. 实现对 AI 绘画生成过程的精细控制，通过引入如涂鸦、边缘图、姿势关键点、深度图、分割图、法线图等多种类型的额外条件输入来指导生成图像的内容。 2. 工作原理是将 Stable Diffusion 模型的权重复制到 ControlNet 的可训练副本中，并使用外部条件向量训练副本，在不破坏原模型能力的前提下，通过小批量数据集训练实现对特定条件的学习。 3. 设计思想提供了训练过程的鲁棒性，避免过度拟合，允许在小规模甚至个人设备上训练，架构具有强大的兼容性与迁移能力，可用于其他扩散模型，增强图像生成的多样性和可控性。 4. 应用不限于 AI 绘画，还可用于图像编辑、风格迁移、图像超分辨率等多种计算机视觉任务，展现了在 AIGC 领域的广泛应用潜力。 在 Stable Diffusion 中，ControlNet 带来的最大改变是让输出结果能更好地被控制。其使用逻辑是通过预处理器将图片提取特征并转换为 AI 可识别的形式，再通过模型进行图像生成。在使用时，如启用 ControlNet 需点击 Enable，Preprocessor 指预处理器，Weight 可调整其在合成中的影响权重，Guidance strength 控制图像生成的前百分之多少步由 ControlNet 主导生成，Invert Input Color 可启动反色模式，RGB to BGR 可反转输入色彩通道信息，Low VRAM 为低显存优化，Guess Mode 为无提示词模式。同时，Model 中选择的解析模型应与输入图像或预处理器对应。

ControlNet 一直加载可能由以下原因导致及对应的解决方法： 1. 模型版本问题：确保 checkpoint、ContalNet 等所有需要加载模型的版本均基于 SD1.5，否则可能会报“超出索引”的错误。 2. 节点未安装完全：载入工作流后若出现爆红部分，可能是节点没下好、没下全。此时可以先全部更新，让所缺节点“显露出来”，然后安装好缺失的节点。 3. 参数设置问题：假如右下角的区域报红，那么就得根据报错信息相应调整一下左上角蓝色区域的 h、w 参数。 此外，ControlNet 还有一些新的功能和应用，例如： 1. 1.1 版本新出的 lineart 线稿提取功能，可先通过 invert 预处理将白底黑线处理成黑底白线，然后切换到 lineart 预处理器和模型进行生成。 2. mlsd 直线线条检测功能，一般用在建筑或者室内设计上，预处理器可提炼出室内的结构线。 ComfyUI 中的 ControlNet 高级控件： 在时间步和批处理潜变量之间调度 ControlNet 强度的节点，以及应用自定义权重和注意力掩码。这里的 ControlNet 节点完全支持滑动上下文采样。输入包括 positive（提示词（正面））、negative（提示词（负面））、control_net（加载了控制网络）、image（用于指导控制网络的图像）、mask_optional（应用于控制网络的注意力掩码）、timestep_kf（时间步关键帧）、latent_kf_override（潜在关键帧的覆盖）。