移动 > 腾讯 > 腾讯游戏

AI绘画【comfyUI】两个自动蒙版操作,轻松实现一键更换背景

80人参与 2024-08-04 腾讯游戏

大家好!我是向阳

在sd-webui里有个segment_anything插件,只需输入想要提取的元素,

就能帮我们一键生成图片的前景、背景和蒙版。

这期我就分享两个,在comfyui里面轻松去背景和生成蒙版的节点。

第一个:segment_anything

插件地址:https://github.com/storyicon/comfyui_segment_anything
注意:需要科学上网,如无法下载,请看文末扫描获取插件安装包

其实它的原理采用groundingdino作为对象检测器,通过我们输入的类别名称或引用表达式,来检测目标,

然后再经过大量数据训练的segment_anything_model,简称sam模型,来处理图像,最后生成对象蒙版。

使用时会自动下载模型。你也可以根据下表,手动下载它们。如果自动下载速度慢,可以设置 http_proxy 和 https_proxy 环境变量来使用代理。

从 https://huggingface.co/bert-base-uncased/tree/main 下载模型到 comfyui 根目录下的models/bert-base-uncased 文件夹中,如下所示:

comfyui  
    models  
        bert-base-uncased  
            config.json  
            model.safetensors  
            tokenizer_config.json  
            tokenizer.json  
            vocab.txt  

当然你也可以跳过此步骤。在推理过程中, bert-base-uncased 会通过 transformers 库自动下载,

其目录通常为 ~/.cache/huggingface/hub/models–bert-base-uncased

请直接将模型和配置文件下载到comfyui根目录下的 models/grounding-dino 目录中,无需修改文件名。

名称大小模型文件
groundingdino_swint_ogc694mb请看文末扫描获取
groundingdino_swinb938mb请看文末扫描获取

sam 模型

下载后放到comfyui根目录下的 models/sams 目录下,无需修改文件名。

根据自己的需要请看文末扫描获取模型,模型有大有小。

在这里插入图片描述

实操步骤

还是老规矩,先加载默认文生图工作流

默认文生图工作流

接着我们使用上面安装的segment_anything插件

可以看到,这个节点是要加载两个模型的,也就是上面我们下载的模型,并且需要一个图片作为参考图,它的输出则是一张图和一个遮罩。

我们按它的输入要求加载下需要的东西,并且我们希望他能扣出我的主体人物,所以我提示词给它:character,并且把图片和遮罩预览下,看看效果

小知识点:遮罩预览需要转成图像才能预览哦。

sam模型加载器处理模式,尽可能的选择gpu模式,速度更快。

可以看到,很简单就从图片了抠出了人物主体图像,并且生成了一个前景遮罩。

接下来我们把它接入文生图流程看看效果,这里我们其实已经是图生图的模式了,我们需要把遮罩和原图传给ksampler采样器,进行处理,图片进入latent我们都知道,只需要通过vae编码即可,遮罩我们需要使用到设置latent噪波遮罩这个节点,用户这个替换文生图中的空latent就可以了

我们再使用背景遮罩来试试效果,背景遮罩就是把前景遮罩反转即可,使用的节点是反转遮罩这个节点

这就是实现了,人物换背景了,而且整体来说还是很协调了。

第二种comfyui-was-node-suite中图像处理

was-node-suite-是comfyui中的一个泛节点套件,来源github作者:was-plailabs

其中包含图像处理、文本处理等190个常用节点。部分节点如下图:

github地址:https://github.com/wasasquatch/was-node-suite-comfyui

需要确保/comfyui/custom_nodes、was-node-suite-comfyui、 和was_node_suite.py具有写入权限。

加载

效果是一样的,生成前景遮罩

背景遮罩:

简单几个节点就实现背景替换,效果还是不错的。

整体工作流如下,需要的朋友添加文末的微信获取。

总结

  1. 使用segment_anything插件来一键生成图片的前景、背景和蒙版。插件使用groundingdino作为对象检测器,并通过sam模型处理图像,生成对象蒙版。实操步骤包括加载默认的文生图工作流,使用segment_anything插件,并输入提示词来生成前景遮罩。

  2. 文章还介绍了comfyui-was-node-suite中的图像处理方法。这是一个包含190个常用节点的泛节点套件,可以用于图像处理、文本处理等。通过这个套件,可以使用简单的几个节点来实现背景替换的效果。

  3. 整体工作流包括加载文生图工作流,使用segment_anythingcomfyui-was-node-suite中的节点来生成前景遮罩和背景遮罩,最后将遮罩和原图传给ksampler采样器进行处理,实现背景替换的效果。

感兴趣的小伙伴,赠送全套aigc学习资料,包含ai绘画、ai人工智能等前沿科技教程和软件工具,具体看这里。

aigc技术的未来发展前景广阔,随着人工智能技术的不断发展,aigc技术也将不断提高。未来,aigc技术将在游戏和计算领域得到更广泛的应用,使游戏和计算系统具有更高效、更智能、更灵活的特性。同时,aigc技术也将与人工智能技术紧密结合,在更多的领域得到广泛应用,对程序员来说影响至关重要。未来,aigc技术将继续得到提高,同时也将与人工智能技术紧密结合,在更多的领域得到广泛应用。

在这里插入图片描述

一、aigc所有方向的学习路线

aigc所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。

在这里插入图片描述

在这里插入图片描述

二、aigc必备工具

工具都帮大家整理好了,安装就可直接上手!
在这里插入图片描述

三、最新aigc学习笔记

当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。
在这里插入图片描述
在这里插入图片描述

四、aigc视频教程合集

观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

在这里插入图片描述

五、实战案例

纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
在这里插入图片描述

若有侵权,请联系删除
(0)
打赏 微信扫一扫 微信扫一扫

您想发表意见!!点此发布评论

推荐阅读

AI绘画入门实践 | Midjourney:使用 --chaos 给图像风格来点惊喜

08-04

告别迷茫!AI绘画工具初学者指南(小白解惑篇)

08-04

好书推荐丨AI绘画全面精通:软件平台+脚本文案+设计制作+案例实战

08-04

视频生成Sora的全面解析:从AI绘画、ViT到ViViT、TECO、DiT、VDT、NaViT等

08-05

【AI绘画/作图】风景背景类关键词模板参考

08-05

云原生技术赋能AI绘图:Stable Diffusion在腾讯云的部署与应用新篇章

08-06

猜你喜欢

版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。

发表评论