[Classifier-Free] Classifier-Free Diffusion Guidance

news2024/11/19 1:37:14

1、背景

        1)Classifier Guidance的问题

                a)需要额外训练一个分类器(要基于噪声图像训练,因此无法用现成的预训练分类器),使得扩散模型的训练pipeline更加复杂

                b)whether classifier guidance is successful at boosting classifier-based metrics such as FID and Inception score (IS) simply because it is adversarial against such classifiers (classifier guidance mixes a score estimate with a classifier gradient during sampling, classifier-guided diffusion sampling can be interpreted as attempting to confuse an image classifier with a gradient-based adversarial attack)

                c)whether classifier-guided diffusion models perform well on classifier-based metrics because they are beginning to resamble GANs, which are already known to perform well on such metrics (stepping in direction of classifier gradients also bears some resamblance to GAN traning, particularly with nonparameteric generators)

        2)此外,像GAN和基于flow的模型,可以通过在采样时降低方差或者噪声输入的范围来实现truncation或者低温采样,从而平衡生成结果的variaty和fidelity。而在diffusion的reverse过程中对模型score进行缩放或者降低高斯噪声的方差则会生成模糊和低质量的图像

2、方法

        1)通过随机(概率为p_{uncond})将c置为\varnothing可以实现用同一个网络同时对条件和非条件生成的训练

        2)通过对条件生成结果和非条件生成结果进行加权,即可得到最终的生成结果

                ​​​​​​​        ​​​​​​​        

3、结果

        除了训练时采用continuous time以外,模型结构和超参数与Classifier-Guided Diffusion一致

        1)\omega取0.1或0.3时,FID最佳(fidelity);\omega >=4时,IS最佳(variaty)

        2)p_{uncond}取0.1或0.2时,整体的IS/FID最佳。说明模型只有少部分能力用于无条件生成任务的训练即可

        3)T↑,采样质量↑。取T=256可以很好的平衡采样质量和采样速度。需要注意的是,每个采样步骤要对降噪模型infer两次,分别得到条件\epsilon_{\theta}(z_{\lambda}, c)和无条件\epsilon_{\theta}(z_{\lambda})​​​​​​​

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/1792001.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

Vue05-数据绑定

一、数据绑定 1-1、v-bind指令 1-2、v-model指令 1、单项数据绑定: 2、双向数据绑定 注意: 表单元素,必须要有属性:value!!! 1-3、小结

钡铼技术BL103助力实现PLC到OPC-UA无缝转换新高度

在工业4.0的大背景下,信息物理系统和工业物联网的融合日益加深,推动了工业自动化向更高层次的发展。OPC UA作为一种开放、安全、跨平台的通信协议,在实现不同设备、系统间数据交换和互操作性方面扮演了核心角色。钡铼技术公司推出的BL103 PLC…

Java网络编程(上)

White graces:个人主页 🙉专栏推荐:Java入门知识🙉 🙉 内容推荐:Java文件IO🙉 🐹今日诗词:来如春梦几多时?去似朝云无觅处🐹 ⛳️点赞 ☀️收藏⭐️关注💬卑微小博主&a…

AI教我变得厉害的思维模式01 - 成长型思维模式

今天和AI一起思考如何培养自己的成长性思维。 一一核对,自己哪里里做到,哪里没有做到,让AI来微调训练我自己。 成长性思维的介绍 成长性思维(Growth Mindset)是由斯坦福大学心理学教授卡罗尔德韦克(Carol…

OpenWrt开启ipv6

原生版本的openwrt, 开启ipv6方法如下: 导航栏 网络->接口 编辑lan接口 DHCP Sever选项里 找到IPv6 Settings 选项: Designated master 不需要开启。RA-Service 设置为 server modeDHCPv6-Service 设置为 server mode 局域网即可确处理IPv6地址分配…

高并发短视频系统设计:架构、存储与性能优化全解

1. 系统概况与需求分析 1.1 短视频系统简介 当前短视频行业的快速发展,加上用户对高清、流畅观看体验的需求不断提升,对系统的并发处理能力、视频处理速度、存储效率等多方面都提出了极高的要求。那么,我们首先需要了解一个完整的短视频系统…

空间不够用了怎么办

空间告急啊哥们 整理一下清理空间有用的一些blog吧。 【linux】公共服务器如何清理过多的.cache缓存 linux根目录空间不足,追加空间到根目录下 【linux】linux磁盘空间 目录查看清理 和 文件查看清理

php: centos+apache 启动php项目

指导文件 :PHP: Apache 2.x on Unix systems - Manual 下载路径 :Index of /httpd configure: error: APR not found. 解决方案: APR(Apache Portable Runtime)库。APR是Apache HTTP服务器的可移植运行时环境&…

E: 仓库 “http://download...graphics:/darktable/xUbuntu_22.04 InRelease” 没有数字签名

问题 Ubuntu22.04装了darktable软件没装好,已经卸载了但是没卸载干净,终端使用 sudo apt update 出现的问题: 解决: sudo nano /etc/apt/sources.list.d/*darktable*.list找到了该软件的相关仓库条目:直接给他注释掉就行了。

HBuilderx uniapp启动微信小程序报错[error] Error: Fail to open IDE

1、打开微信呢开发者工具,添加项目 创建小程序--目录(目录选择自己小程序项目下的dist/dev/mp-weixin)点击确定之后微信开发者工具会自己去编译,等待一会便好,查看微信开发者工具控制台是否有报错日志 如果发现[插件 w…

韩顺平0基础学Java——第17天

p342-373 上课的时候一部分在纸上写过了,就不在这里复盘了。 this可以调用本类的所有方法,super可以调用父类的非private方法 Test Demo Rose Jack John jack 重写equals方法: 15: 1.调用C的有参构造器 2.进入B的有参构造器…

【C++面试50题】

以下是针对C程序员面试可能遇到的一些问题,涵盖了从基础语法、面向对象、STL、内存管理、模板、异常处理、并发编程等多个方面。 ### 基础概念与语法 1. C与C的主要区别是什么? 2. 什么是构造函数和析构函数?它们何时被调用? 3. 什…

【qt】多窗口开发

多窗口开发 一.应用场景二.嵌入的窗口1.设计Widget窗口2.创建窗口3.添加窗口4.总代码 三.独立的窗口1.创建窗口2.显示窗口 四.总结 一.应用场景 多窗口,顾名思义,有多个窗口可以供我们进行操作! 截个小图,你应该就知道了 OK,话不多说,直接开干,先来设计我们的主窗口 需要蔬菜…

场外个股期权标的有哪些?

今天带你了解场外个股期权标的有哪些?场外个股期权是一种金融衍生品,它不在交易所内进行交割,而是在交易所以外的场所进行交易的股票期权合约。 场外个股期权标的有哪些? 场外个股期权的标的通常包括A股市场上的融资融券标的&…

godot.bk5:how to change the scene

control:界面层,点击start进入map extends Controlonready var start $Button # Called when the node enters the scene tree for the first time. func _ready():start.connect("button_down", self._on_pressed_)pass # Replace with fun…

西门子学习笔记6 - TCP通讯

1、主站设置 1、添加两个PLC在网络组态进行链接在一起,使用tcp链接 2、设置主站IP地址为:192.168.1.1 3、添加TSEND_C功能块 4、设置功能块参数连接 5、设置如下所示(连接参数设置) 6、设置如下所示(连接块参数设置&a…

调用讯飞星火API实现图像生成

目录 1. 作者介绍2. 关于理论方面的知识介绍3. 关于实验过程的介绍,完整实验代码,测试结果3.1 API获取3.2 代码解析与运行结果3.2.1 完整代码3.2.2 运行结果 3.3 界面的编写(进阶) 4. 问题分析5. 参考链接 1. 作者介绍 刘来顺&am…

ubuntu20.04设置文件开机自启动

硬件:树霉派4B 系统:ubuntu20.04 在ubuntu20.04上经常需要运行 ./BluetoothServerParse_L.c ,比较繁琐,想要设置开机自启动,让树霉派4B在接上电源之后就自动运行该程序。使用systemd服务,设置步骤如下: &…

高德地图 JS API用于绘画船舶轨迹

文章目录 引言I 2.0升级指南1.1 修改 JSAPI 引用中的版本号到 2.01.2 相应修改II 1.4.15 文档引言 地图 JS API 2.0 是高德开放平台免费提供的第四代 Web 地图渲染引擎, 以 WebGL 为主要绘图手段,本着“更轻、更快、更易用”的服务原则,广泛采用了各种前沿技术,交互体验、…

开发板uboot与virtualbox虚拟机、windows11网络互通

环境:virtualbox中ubuntu22.04.4,开发板通过网线再经过拓展坞usb网卡跟windows11连接。连接如下: 1、关闭windows防火墙(重要) 2、先在VirtualBox的工具选项创建两个网络【仅主机(Host-Only)网络】和【NAT网络】 仅主机(Host-Only)网络的ip:…