{WebUI&comfyUI}∈Stable Diffuision,所以两者关于ContrlNet的使用方法的核心思路不会变,变的只是comfyUI能够让用户更直观地看到,并且控制生图的局部过程。

之前的webUI中涉及到ContrlNet部分知识:SD-细节控制-CSDN博客 

概括来说: ControlNet中最常用的还是姿势控制线条约束以及深度控制

模型说明

SD1.5使用512*512的数据集进行训练,SDXL使用1024*1024的数据集进行训练。所以让SD1.5直接生成1024*1024的图片较为困难。

1.线稿上色

在加载ControlNet节点中有众多模型,不同的模型的使用条件不一。

在基础文生图工作流间增加ControlNet节点,实现对图像的控制。

1.1模型分类

简单对吐司上该节点中具有的模型进行分类。

1. 基础控制类型:(Canny-边缘, Depth-深度图, OpenPose-姿态, Scribble-涂鸦, Normal-法线图, Seg-语义分割, hand_pose-手部关键点, Tile-分块, brightness-亮度控制, qrcode-生成艺术二维码等)

2. 模型架构/版本(SD15, SDXL, SD3, AnimateDiff, 等)

3. 特殊功能(Inpainting-修复, Illumination-光照控制 ,CoAdapter-多条件联合控制IP-Adapter-用参考图控制风格, InstantID-人脸身份保留等)

4. 风格适配(Anime-动漫, Realistic-真实等)

5. 多合一综合模型(Union, Pro等)

控制类型代表模型用途
边缘检测*canny*.safetensorscontrol_v1lp_sd15_canny.pth保留物体轮廓(如建筑设计/产品图)
深度图*depth*.safetensorscontrol_v1lf1p_sd15_depth.pth空间关系控制(场景层次感/景深效果)
姿态控制OpenPoseXL.safetensorscontrol_v1lp_sd15_openpose.pth人体姿势生成(角色设计/动作捕捉)
涂鸦控制*scribble*.safetensorscontrol_sd15_scribble.pth草图转精细图(手绘概念设计)
分块处理*tile*.safetensorscontrol_v1lfle_sd15_tile.pth局部细节增强(高清纹理/无损放大)
修复专用*inpaint*.safetensorscontrol_sd15_inpaint*.pth图像修补(去水印/物体移除)
风格适配ip-adapter*.pth*anime*.safetensors风格迁移(照片转动漫/艺术风格)
二维码艺术*qrcode*.safetensors创意二维码生成
光照控制illumination*.safetensors光影效果调整(打光模拟/HDR效果)

新手一开始看到众多模型会很头大,其实不必纠结这个,可以向d老师进行提问,从名称对模型有初步的认识,基于此筛选掉一部分模型后,再直接上手使用该模型。

在使用模型时仍然需要前往模型作者主页查看该模型作者关于模型的说明

如lz当前使用的模型原作者就对采样算法,采样步数,正负面提示词方面进行了说明。

1.2组合案例 

1. 真人转插画

控制图:Canny边缘

模型:`control_v1lp_sd15_canny.pth` + 动漫主模型

提示词:`anime style, masterpiece`

2. 建筑设计

控制图:深度图

模型:`control_v1lf1p_sd15_depth.pth`

提示词:`modern architecture, sunlight`

3. 虚拟换装

控制图:OpenPose姿势图

模型:`OpenPoseXL2.safetensors`

提示词:`fashion photo, [服装描述]`

4. 老照片修复

控制图:涂鸦草图 + Inpainting遮罩

模型:`control_sd15_inpaint_depth_hand_fp16.safetensors`

提示词:`old photo, high detail, 4K`

5. 多ControlNet串联: 姿势(OpenPose) + 深度(Depth) + 风格(IP-Adapter) 同时控制。

6. Tile分块控制: 用`TTPLANET_Controller_Tile`放大局部细节不改变构图。

7. 动态视频控制: AnimateDiff模型 + 运动控制CKPT生成连贯动画。

模型命名中的`fp16`/`rank256`表示优化版本(显存需求更低)。

1.3线稿获取-lineart

利用Img2LineArt Assistant节点将图片转换为线稿

输入ControlNet中的图片要求为黑底白边,此处为考虑到多种情况同时使用了2个节点对图片进行了处理,uu们可以根据需要适当保留一个line节点即可。

 原有画面可能含有较多细节,精度设置得过高可能会导致线稿提取到的细节过多

 可以选择用PS画笔工具将背景进行涂抹。减少背景对画面的干扰。

但仍然注意到画面保留了较多细节。可以选择适当降低details值,减少画面细节。

下图为其他值相同,details值不同得出的结果。

1.4图片大小控制

通过获取图像尺寸节点得到原图像的大小,将空Latent中转换为输入节点。

其实工作流的搭建并不是最难的的是不同类型之间的模型的相互匹配。同时需要具备处理异常画面的思考能力。以及参考图片大小和目标模型之间是否配适。这个过程需要不断摸索。

lz一开始的参考图为2000*2000px,这个尺寸的图片如果用1.5的模型是完全无法生成的,于是将图片尺寸改为512*512,但是提取的线稿不够精细,生成的图片会丢失过多细节,于是lz取消了原图和生成图片之间的尺寸关联,用2000*2000的图片进行线稿提取,用512*512的分辨率生成图片。这之中还得不断更换模型进行尝试,以及调整数据。

最终勉强得到几张能看的图, 但生成的图片精细度仍然不够,且会把角色的耳羽和头发混为一谈。

 

结合使用高清放大节点对图片进行二次处理:comfyUI-高清放大1-CSDN博客

同时基于角色特性,lz决定再加一个LoRA模型,平台的LoRA效果也不是很好。。。

1.5软边缘-softedge

softedge一般用于风格转绘,或者基于原图的线条特征对画面进行整体细节改变

HED模糊线预处理器的功能和LineArtStandard艺术线预处理器类似。uu们可以尝试一般性的人物角色,使用该方法对画面人物进行风格上的转化。

看样子不太适合鸡翅膀女孩。。。

更换图像后生成效果

 

完整工作流:ControlNet中的softedge+lineart使用案例 | ComfyUI Workflow | 吐司 tusiart.com 

uu们可以将该功能和与自身的工作流结合 

功能性节点summary

以下节点可以在其他情况下进行复用

1.获取图像大小

2.图像转化为线稿

只有意志力坚强的人才能到达永生的彼岸。——来点鸡汤8

以上end

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:http://www.pswp.cn/news/914196.shtml
繁体地址,请注明出处:http://hk.pswp.cn/news/914196.shtml
英文地址,请注明出处:http://en.pswp.cn/news/914196.shtml

如若内容造成侵权/违法违规/事实不符,请联系英文站点网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

SOEM build on ubuntu

1.配置 soem2.编译 soem3.结果4.记录一下自己的开发环境家里台式机

STM32--USART串口通信的应用(第一节串口通信的概念)

咱们今天呢给大家讲解咱们 stm32 开发当中的串口的应用啊 , 串口这个专题呢啊是我们那 个学习上必须要掌握的一个外设串口有什么作用呢,其实在我们以后的这个开发程序当中,咱们可能经常需要用到一些调试 信息,对吧? 啊…

STM32F407ZGT6天气时钟+实时温湿度显示(附源码)

文章目录实现功能:项目展示:代码解析:实现功能: 1.主要功能:通过485通信获取传感器温湿度,温湿度数据显示、实时时钟显示与用户交互。使用LVGL在显示屏上展示传感器温湿度数据,并提供UI设置温度…

和鲸社区深度学习基础训练营2025年关卡4

使用 pytorch 构建一个简单的卷积神经网络(CNN)模型,完成对 CIFAR-10 数据集的图像分类任务。 直接使用 CNN 进行分类的模型性能。 提示: 数据集:CIFAR-10 网络结构:可以使用 2-3 层卷积层,ReLU…

前端性能优化全攻略:从加载到渲染

目录 前言网络请求优化资源加载优化JavaScript执行优化渲染优化用户体验优化性能监控与分析总结 前言 随着Web应用复杂度不断提升,前端性能优化变得尤为重要。本文将系统性地介绍从资源加载到页面渲染的全链路性能优化策略,帮助开发者构建高效、流畅的…

hiredis: 一个轻量级、高性能的 C 语言 Redis 客户端库

目录 1.简介 2.安装和配置 2.1.源码编译安装(通用方法) 2.2.包管理器安装(特定系统) 2.3.Windows 安装 3.常用的函数及功能 3.1.连接管理函数 3.2.命令执行函数 3.3.异步操作函数 3.4.回复处理函数 3.5.错误处理 3.6.…

TCP套接字

1.概念套接字是专门进行网络间数据通信的一种文件类型,可以实现不同主机之间双向通信,包含了需要交换的数据和通信双方的IP地址和port端口号。2.套接字文件的创建int socket(int domain, int type, int protocol); 功能:该函数用来创建各种各…

Go语言高并发聊天室(一):架构设计与核心概念

Go语言高并发聊天室(一):架构设计与核心概念 🚀 引言 在当今互联网时代,实时通信已成为各类应用的核心功能。从微信、QQ到各种在线协作工具,高并发聊天系统的需求无处不在。本系列文章将手把手教你使用Go语…

Java基础:泛型

什么是泛型? 简单来说,Java泛型是JDK 5引入的一种特性,它允许你在定义类、接口和方法时使用类型参数(Type Parameters)。这些类型参数可以在编译时被具体的类型(如 String, Integer, MyCustomClass 等&…

RMSNorm实现

当前Qwen、Llama等系列RMSNorm实现源码均一致。具体现实如下: class RMSNorm(nn.Module):def __init__(self, hidden_size, eps1e-6):super().__init__()self.weight nn.Parameter(torch.ones(hidden_size))self.variance_epsilon epsdef forward(self, hidden_s…

智能Agent场景实战指南 Day 11:财务分析Agent系统开发

【智能Agent场景实战指南 Day 11】财务分析Agent系统开发 文章标签 AI Agent,财务分析,LLM应用,智能财务,Python开发 文章简述 本文是"智能Agent场景实战指南"系列第11篇,聚焦财务分析Agent系统的开发。文章深入解析如何构建一个能够自动处理财务报表…

人工智能安全基础复习用:可解释性

一、可解释性的核心作用1. 错误检测与模型改进发现模型的异常行为(如过拟合、偏见),优化性能。例:医疗模型中,可解释性帮助识别误诊原因。2. 安全与可信性关键领域(医疗、军事)需透明决策&#…

Qt:QCustomPlot类介绍

QCustomPlot的核心类就是QCustomPlot类。这个类继承自QWidget,因此可以像其他QWidget一样使用,比如放入布局中。QCustomPlot类基本结构一个QCustomPlot对象可以包含多个图层(通过QCPLayer表示),通常使用默认图层。它包…

Visual Studio 2022 上使用ffmpeg

目录 1. 添加包含目录 2. 添加库目录 3. 添加依赖项 4. 添加动态库目录 5. 测试 在解决方案中右击项目名称,弹出的窗口中选择 "属性"。 1. 添加包含目录 "C/C" -> "常规" -> "附加包含目录"中添加 ffmpeg中的…

Elasticsearch 线程池

Elasticsearch 线程池「每个线程池到底采用哪种实现策略」:Elasticsearch 线程池(ThreadPool)中 **所有内置线程池名称的常量定义**。 每个字符串常量对应一个 **线程池的名字(name)**,也就是你在 Thread…

深入理解 Next.js API 路由:构建全栈应用的终极指南

Next.js 是一个强大的 React 框架,不仅支持服务端渲染(SSR)和静态站点生成(SSG),还提供了内置的 API 路由功能,使开发者能够轻松构建全栈应用。传统的全栈开发通常需要单独搭建后端服务&#xf…

【6.1.2 漫画分布式事务技术选型】

漫画分布式事务技术选型 🎯 学习目标:掌握架构师核心技能——分布式事务技术选型与一致性解决方案,构建高可靠的分布式系统 🎭 第一章:分布式事务模式对比 🤔 2PC vs 3PC vs TCC vs Saga 想象分布式事务就…

液冷智算数据中心崛起,AI算力联动PC Farm与云智算开拓新蓝海(二)

从算法革新到基础设施升级,从行业渗透到地域布局,人工智能算力正以 “规模扩张 效率提升”双轮驱动中国数字经济转型。中国智能算力规模将在 2025 年突破 1000 EFLOPS,2028 年达到 2781.9 EFLOPS,五年复合增长率 46.2%&#xff0…

《QtPy:Python与Qt的完美桥梁》

QtPy 是什么 在 Python 的广袤编程宇宙中,当涉及到图形用户界面(GUI)开发,Qt 框架宛如一颗璀璨的明星,散发着独特的魅力。而 QtPy,作为 Python 与 Qt 生态系统交互中的关键角色,更是为开发者们开…

ubuntu环境下调试 RT-Thread

调试 RT-Thread 下载源码 github 搜索 RT-Thread 下载源码 安装 python scons 环境 你已经安装了 kconfiglib,但 scons --menuconfig 仍然提示找不到它。这种情况通常是由于 Python 环境不一致 导致的:你在一个 Python 环境中安装了 kconfiglib&#xff…