介绍《Classifier-Free Diffusion Guidance》的核心观点与方法

在扩散模型（Diffusion Models）的研究中，如何在生成样本的质量与多样性之间找到平衡一直是核心挑战之一。传统的生成模型（如GANs或Glow）通过截断（truncation）或低温采样（low temperature sampling）来实现这一目标，但扩散模型在这方面的尝试却往往效果不佳。Dhariwal 和 Nichol 在 2021 年提出了“分类器引导”（Classifier Guidance），通过引入额外的分类器来提升样本质量，但这增加了训练复杂性，并引发了是否必须依赖分类器的问题。Jonathan Ho 和 Tim Salimans 在论文《Classifier-Free Diffusion Guidance》中提出了一种新颖的替代方法——“无分类器引导”（Classifier-Free Guidance），旨在以纯生成模型的方式实现类似的效果。本文将为熟悉扩散模型的深度学习研究者介绍其核心观点、方法及关键数学公式，并加以解释。

---

核心观点

论文的核心贡献在于证明了扩散模型无需依赖外部分类器即可实现样本质量与多样性的权衡。传统的分类器引导通过结合扩散模型的分数估计（score estimate）和分类器的梯度来调整采样方向，而无分类器引导则通过联合训练一个条件扩散模型和一个无条件扩散模型，并在采样时混合两者的分数估计来达到类似目的。这种方法不仅简化了训练流程，还避免了分类器梯度可能带来的对抗性解释（如对分类器基于指标的优化）。

主要观点包括：

1. 纯生成模型的能力：无分类器引导表明，扩散模型本身足以生成高质量样本，无需借助分类器。
2. 训练与采样的简单性：通过在训练时随机丢弃条件信息，以及在采样时线性组合条件与无条件分数，方法实现起来非常直观。
3. 效果验证：实验表明，无分类器引导能在 FID（Fréchet Inception Distance）和 IS（Inception Score）之间实现与分类器引导相似的权衡曲线。

---

方法详解

1. 背景：扩散模型的训练与采样

扩散模型通过正向过程逐步向数据添加噪声，并在逆向过程中从噪声中恢复数据。给定数据 ($\mathbf{x}\sim p(\mathbf{x})$)，正向过程定义为：
$$q({\mathbf{z}}_{\lambda }\mid \mathbf{x})=\mathcal{N}({\alpha }_{\lambda }\mathbf{x},{\sigma }_{\lambda }^2\mathbf{I}),$$
其中 (${\alpha }_{\lambda }=\sqrt{1/(1+e^{-\lambda })}$)，(${\sigma }_{\lambda }^2=1-{\alpha }_{\lambda }^2$)，($\lambda$) 是信噪比的对数（log signal-to-noise ratio）。逆向过程则通过学习一个参数化的模型 ($p_{\theta }({\mathbf{z}}_{{\lambda }^{\prime }}\mid {\mathbf{z}}_{\lambda })$) 来近似数据的分布，通常使用去噪分数匹配目标：
$${\mathbb{E}}_{ϵ,\lambda }\left[{\Vert {ϵ}_{\theta }({\mathbf{z}}_{\lambda })-ϵ\Vert }_2^2\right],$$
其中 (${\mathbf{z}}_{\lambda }={\alpha }_{\lambda }\mathbf{x}+{\sigma }_{\lambda }ϵ$)，($ϵ\sim \mathcal{N}(0,\mathbf{I})$)，(${ϵ}_{\theta }({\mathbf{z}}_{\lambda })$) 是模型预测的噪声。

对于条件生成（如类条件图像生成），只需将条件 ($\mathbf{c}$) 输入模型，变为 (${ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})$)。

2. 分类器引导的局限

分类器引导通过调整分数估计来提升样本质量：
$${\widetilde{ϵ}}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})={ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})-w{\sigma }_{\lambda }{\nabla }_{{\mathbf{z}}_{\lambda }}\log p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda }),$$
其中 ($w$) 是引导强度，(${\nabla }_{{\mathbf{z}}_{\lambda }}\log p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })$) 是分类器对 (${\mathbf{z}}_{\lambda }$) 的梯度。这相当于采样近似分布（推导见下文）：
$${\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})\propto p_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda }{)}^w。$$
然而，这需要额外训练一个分类器 ($p_{\varphi }$)，且分类器必须在噪声数据上训练，无法直接使用预训练模型。此外，这种方法可能被视为对分类器的对抗性优化，引发对结果真实性的质疑。

3. 无分类器引导的核心方法

无分类器引导提出了一种替代方案，通过联合训练条件模型 (${ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})$) 和无条件模型 (${ϵ}_{\theta }({\mathbf{z}}_{\lambda })$) 来实现引导。具体步骤如下：

• 联合训练：使用单一神经网络同时建模条件和无条件分布。在训练时，以概率 ($p_{\text{uncond}}$) 随机将条件 ($\mathbf{c}$) 替换为无条件标识符（如 ($\varnothing$)），从而同时优化：

  • 条件分数 (${ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})$)，
  • 无条件分数 (${ϵ}_{\theta }({\mathbf{z}}_{\lambda })={ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c}=\varnothing )$)。

  训练算法如下（伪代码摘自论文）：
  repeat
  \quad $(x,c)p(x,c)$ // 从数据集中采样带条件的数据
  \quad c ← ∅ with probability p_uncond // 随机丢弃条件
  \quad $\lambda \sim p(\lambda )$ // 采样信噪比
  \quad $\epsilon \sim N(0,I)$ // 采样噪声
  \quad $z_{\lambda }={\alpha }_{\lambda }x+{\sigma }_{\lambda }\epsilon$ // 添加噪声
  \quad 优化 ${\nabla }_{\theta }||{\epsilon }_{\theta }(z_{\lambda },c)-\epsilon |{|}^2$ // 更新模型参数
  until converged

• 采样时的分数混合：在采样时，通过线性组合条件和无条件分数来调整生成方向：
  $${\widetilde{ϵ}}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})=(1+w){ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})-w{ϵ}_{\theta }({\mathbf{z}}_{\lambda }),$$
  其中 ($w$) 是引导强度。这等价于在条件分布上施加额外的引导信号，而不依赖分类器梯度。

  采样算法如下：

( $w$ )：引导强度。
( $c$ )：条件采样的条件信息
( ${\lambda }_1,\dots ,{\lambda }_T$ )：对数信噪比（SNR）的递增序列，其中 ( ${\lambda }_1={\lambda }_{\text{min}}$ )，( ${\lambda }_T={\lambda }_{\text{max}}$ )

1. ( $z_1\sim \mathcal{N}(0,I)$ )
2. 对于 ( $t=1,\dots ,T$ ) 执行
   • 在对数信噪比 ( ${\lambda }_t$ ) 处形成无分类器引导的得分
   • ( ${\widehat{ϵ}}_t=(1+w){ϵ}_{\theta }(z_t,c)-w{ϵ}_{\theta }(z_t)$ )
   • 采样步骤（可以被其他采样器替换，例如 DDIM）
   • ( ${\hat{x}}_t=(z_t-{\sigma }_t{\widehat{ϵ}}_t)/{\alpha }_t$ )
   • ( $z_{t+1}\sim \mathcal{N}({\mu }_{{\lambda }_{t+1}|{\lambda }_t}(z_t,{\hat{x}}_t),({\sigma }_{{\lambda }_{t+1}|{\lambda }_t}^2)I{)}^{1-v}({\sigma }_{{\lambda }_t|{\lambda }_{t+1}}^{2}I{)}^v)$ ) 如果 ( $t<T$ ) 否则 ( $z_{t+1}={\hat{x}}_t$ )
3. 结束循环
4. 返回 ( $z_{T+1}$ )

---

4. 数学解释

无分类器引导的灵感来源于隐式分类器 ($p^i(\mathbf{c}\mid {\mathbf{z}}_{\lambda })\propto p({\mathbf{z}}_{\lambda }\mid \mathbf{c})/p({\mathbf{z}}_{\lambda })$)。解释见下文。若有精确分数：
$${\nabla }_{{\mathbf{z}}_{\lambda }}\log p^i(\mathbf{c}\mid {\mathbf{z}}_{\lambda })=-\frac{1}{{\sigma }_{\lambda }}[{ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})-{ϵ}^{\ast }({\mathbf{z}}_{\lambda })],$$
将其代入分类器引导公式可得：
$${\widetilde{ϵ}}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})=(1+w){ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})-w{ϵ}^{\ast }({\mathbf{z}}_{\lambda })。$$
这与无分类器引导的形式一致。然而，由于 (${ϵ}_{\theta }$) 是神经网络的输出，不一定对应某个标量势函数的梯度，因此 (${\widetilde{ϵ}}_{\theta }$) 并非严格的分类器引导，而是通过分数差间接模拟了条件分布的增强。

这种方法的直观解释是：条件分数 (${ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})$) 推动样本朝特定条件方向移动，而无条件分数 (${ϵ}_{\theta }({\mathbf{z}}_{\lambda })$) 提供全局分布的约束，二者混合后增强了条件方向的“确定性”，从而提升样本质量。

---

实验验证

论文在 ImageNet 数据集上验证了方法的有效性：

• 64x64 分辨率：在 ($w=0.1$) 时获得最佳 FID（1.55），在 ($w=4.0$) 时获得最佳 IS（260.2）。
• 128x128 分辨率：在 ($w=0.3$) 时 FID 达 2.43，优于分类器引导的 ADM-G；在 ($w=4.0$) 时 IS 达 422.29，超越 BigGAN-deep。
• 超参数影响：($p_{\text{uncond}}=0.1或0.2$) 时效果最佳，表明只需少量无条件训练即可实现有效引导。

样本图像显示，随着 ($w$) 增加，样本多样性降低，但个体质量（如颜色饱和度）显著提升。

---

讨论与意义

无分类器引导的优势在于其简单性和纯生成性，避免了分类器训练的复杂性，同时证明了扩散模型自身的潜力。相比之下，其采样速度可能较慢（需要两次前向传播），但这可以通过网络结构优化（如延迟条件注入）来缓解。

对于深度学习研究者，这一方法提供了一个新思路：通过分数估计的组合，扩散模型可以在不引入外部监督的情况下实现灵活的生成控制。未来可探索其在多模态数据或高维条件上的应用，以及如何在提升质量的同时保持多样性。

---

结语

《Classifier-Free Diffusion Guidance》展示了一种优雅而高效的扩散模型优化策略。通过联合训练和分数混合，它不仅简化了流程，还深化了我们对生成模型能力的理解。对于研究者而言，这篇文章是值得深入挖掘的宝藏，或许能启发更多创新的生成方法。

“相当于采样近似分布”的数学推导过程

详细解释分类器引导中“相当于采样近似分布”的数学推导过程，特别是公式 (${\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})\propto p_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda }{)}^w$) 的由来。这部分涉及扩散模型的采样过程和分数估计的含义，适合熟悉扩散模型的读者深入理解。

---

背景：扩散模型与分数估计

扩散模型的核心是通过逆向过程从噪声分布逐步生成数据。逆向过程依赖于分数估计（score estimate），即数据分布的对数密度的梯度 (${\nabla }_{{\mathbf{z}}_{\lambda }}\log p({\mathbf{z}}_{\lambda })$)。在条件扩散模型中，分数估计变为 (${\nabla }_{{\mathbf{z}}_{\lambda }}\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})$)，由模型 (${ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})$) 近似，表示为：
$${ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})\approx -{\sigma }_{\lambda }{\nabla }_{{\mathbf{z}}_{\lambda }}\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c}),$$
其中 (${\sigma }_{\lambda }$) 是噪声尺度，(${\mathbf{z}}_{\lambda }$) 是给定信噪比 ($\lambda$) 时的噪声数据。

在采样时，扩散模型通过 Langevin 动力学或类似方法，利用分数估计逐步更新 (${\mathbf{z}}_{\lambda }$)，以逼近目标分布 ($p({\mathbf{z}}_{\lambda }\mid \mathbf{c})$)。

---

分类器引导的分数调整

分类器引导引入了一个额外的分类器 ($p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })$)，并调整原始分数估计：
$${\widetilde{ϵ}}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})={ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})-w{\sigma }_{\lambda }{\nabla }_{{\mathbf{z}}_{\lambda }}\log p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda }),$$
其中 ($w$) 是引导强度参数。目标是理解这一调整如何影响采样的分布。

将 (${ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})$) 的定义代入：
$${\widetilde{ϵ}}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})=-{\sigma }_{\lambda }{\nabla }_{{\mathbf{z}}_{\lambda }}\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})-w{\sigma }_{\lambda }{\nabla }_{{\mathbf{z}}_{\lambda }}\log p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })。$$
提取公共因子 (${\sigma }_{\lambda }$)：
$${\widetilde{ϵ}}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})=-{\sigma }_{\lambda }\left[{\nabla }_{{\mathbf{z}}_{\lambda }}\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})+w{\nabla }_{{\mathbf{z}}_{\lambda }}\log p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })\right]。$$
根据梯度的线性性质：
$${\nabla }_{{\mathbf{z}}_{\lambda }}\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})+w{\nabla }_{{\mathbf{z}}_{\lambda }}\log p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })={\nabla }_{{\mathbf{z}}_{\lambda }}\left[\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})+w\log p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })\right]。$$
因此：
$${\widetilde{ϵ}}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})=-{\sigma }_{\lambda }{\nabla }_{{\mathbf{z}}_{\lambda }}\left[\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})+w\log p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })\right]。$$
这表明调整后的分数 (${\widetilde{ϵ}}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})$) 是某个新分布对数密度的梯度乘以 ($-{\sigma }_{\lambda }$)。

---

新分布的定义

在扩散模型中，分数 (${ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})$) 定义了采样分布的对数梯度。假设 (${\widetilde{ϵ}}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})$) 是近似正确的分数（即训练充分且误差较小），我们可以将其视为某个目标分布 (${\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})$) 的分数：
$${\widetilde{ϵ}}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})\approx -{\sigma }_{\lambda }{\nabla }_{{\mathbf{z}}_{\lambda }}\log {\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})。$$
结合上式：
$$-{\sigma }_{\lambda }{\nabla }_{{\mathbf{z}}_{\lambda }}\log {\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})=-{\sigma }_{\lambda }{\nabla }_{{\mathbf{z}}_{\lambda }}\left[\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})+w\log p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })\right]。$$
两边除以 ($-{\sigma }_{\lambda }$)（假设 (${\sigma }_{\lambda }\ne 0$)）：
$${\nabla }_{{\mathbf{z}}_{\lambda }}\log {\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})={\nabla }_{{\mathbf{z}}_{\lambda }}\left[\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})+w\log p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })\right]。$$
由于梯度相等，($\log {\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})$) 和 ($\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})+w\log p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })$) 在数学上应相差一个与 (${\mathbf{z}}_{\lambda }$) 无关的常数（归一化常数）。因此：
$$\log {\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})=\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})+w\log p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })+C,$$
其中 ($C$) 是归一化常数。对两边取指数：
$${\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})=e^{\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})+w\log p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })+C}=e^C\cdot p({\mathbf{z}}_{\lambda }\mid \mathbf{c})\cdot p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda }{)}^w。$$
由于 (${\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})$) 是概率密度，需满足归一化条件 ($\int {\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})d{\mathbf{z}}_{\lambda }=1$)。令 ($Z=e^C$) 为归一化因子：
$${\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})=\frac{p({\mathbf{z}}_{\lambda }\mid \mathbf{c})p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda }{)}^w}{\int p({\mathbf{z}}_{\lambda }^{\prime }\mid \mathbf{c})p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda }^{\prime }{)}^{w}d{\mathbf{z}}_{\lambda }^{\prime }}。$$
在实践中，扩散模型采样时通常不显式计算 ($Z$)，而是通过分数直接逼近分布。因此，论文中简化为比例形式：
$${\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})\propto p_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda }{)}^w。$$
这里的 ($p_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})$) 是模型近似的条件分布，替换了理论上的 ($p({\mathbf{z}}_{\lambda }\mid \mathbf{c})$)。

---

直观解释

• 原始分布 ($p_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})$)：扩散模型试图采样的条件分布。
• 分类器项 ($p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda }{)}^w$)：分类器对 (${\mathbf{z}}_{\lambda }$) 属于条件 ($\mathbf{c}$) 的置信度，($w$) 控制其影响强度。乘以 ($p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda }{)}^w$) 相当于对更符合条件 ($\mathbf{c}$) 的样本赋予更高权重。
• 效果：新分布 (${\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})$) 倾向于生成分类器高置信度的样本，提升了样本质量（如 IS），但可能减少多样性。

---

为什么是“近似”分布？

1. 模型误差：(${ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})$) 和 ($p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })$) 都是近似估计，而非精确分布的分数。
2. 采样过程：扩散模型通过有限步数的迭代逼近目标分布，实际采样的分布可能偏离理论上的 (${\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})$)。
3. 非保守场：神经网络输出的 (${\widetilde{ϵ}}_{\theta }$) 不一定对应某个标量势函数的梯度，因此严格来说 (${\tilde{p}}_{\theta }$) 可能不是一个可精确定义的分布。

---

总结

“相当于采样近似分布 (${\tilde{p}}_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})\propto p_{\theta }({\mathbf{z}}_{\lambda }\mid \mathbf{c})p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda }{)}^w$)”的推导源于分数调整的数学性质：通过将分类器梯度融入分数估计，采样过程被引导向一个新的分布，这个分布增强了条件一致性。这种形式揭示了分类器引导的本质——通过外部监督调整生成方向，而无分类器引导则试图用纯生成模型模拟这一效果。

详细解释“隐式分类器”（implicit classifier）

详细解释“隐式分类器”（implicit classifier）是什么，以及它在《Classifier-Free Diffusion Guidance》论文中的数学推导和意义。这部分内容面向熟悉扩散模型的深度学习研究者，帮助理解无分类器引导的灵感来源及其与分类器引导的联系。

---

什么是隐式分类器？

在机器学习中，“隐式分类器”并不是一个直接训练得到的分类模型，而是通过生成模型的概率分布，利用贝叶斯规则间接推导出的分类器。具体来说，给定生成模型的条件分布 ($p({\mathbf{z}}_{\lambda }\mid \mathbf{c})$) 和无条件分布 ($p({\mathbf{z}}_{\lambda })$)，隐式分类器 ($p^i(\mathbf{c}\mid {\mathbf{z}}_{\lambda })$) 定义为：
$$p^i(\mathbf{c}\mid {\mathbf{z}}_{\lambda })=\frac{p({\mathbf{z}}_{\lambda }\mid \mathbf{c})p(\mathbf{c})}{p({\mathbf{z}}_{\lambda })},$$
其中：

• ($p({\mathbf{z}}_{\lambda }\mid \mathbf{c})$) 是条件生成模型的概率密度，表示在条件 ($\mathbf{c}$) 下生成 (${\mathbf{z}}_{\lambda }$) 的似然；
• ($p(\mathbf{c})$) 是条件 ($\mathbf{c}$) 的先验概率；
• ($p({\mathbf{z}}_{\lambda })={\sum }_{{\mathbf{c}}^{\prime }}p({\mathbf{z}}_{\lambda }\mid {\mathbf{c}}^{\prime })p({\mathbf{c}}^{\prime })$) 是 (${\mathbf{z}}_{\lambda }$) 的边际分布。

由于 ($p({\mathbf{z}}_{\lambda })$) 在给定 (${\mathbf{z}}_{\lambda }$) 时是一个常数（不依赖于 ($\mathbf{c}$)），论文中将其简化为比例形式：
$$p^i(\mathbf{c}\mid {\mathbf{z}}_{\lambda })\propto \frac{p({\mathbf{z}}_{\lambda }\mid \mathbf{c})}{p({\mathbf{z}}_{\lambda })},$$
这里的比例符号 ($\propto$) 表示忽略了归一化因子 ($p(\mathbf{c})/p({\mathbf{z}}_{\lambda })$)，因为在计算梯度时，常数因子不会影响结果。

直观含义

隐式分类器是通过生成模型“反推”得到的分类器。它没有显式训练一个独立的分类模型，而是利用生成模型已经学习到的分布信息，通过贝叶斯规则间接判断 (${\mathbf{z}}_{\lambda }$) 属于某个条件 ($\mathbf{c}$) 的概率。这种方法在生成模型研究中常见，因为生成模型天然提供了 ($p({\mathbf{z}}_{\lambda }\mid \mathbf{c})$)，而边际分布 ($p({\mathbf{z}}_{\lambda })$) 可以通过条件分布整合得到。

---

隐式分类器在论文中的作用

在无分类器引导的数学解释中，作者提出其方法灵感来源于隐式分类器。具体来说，他们考虑如果用这个隐式分类器的梯度来引导扩散模型，会得到与无分类器引导形式相似的分数调整。让我们逐步推导。

1. 计算隐式分类器的梯度

假设我们有精确的分数（score），即：

• (${ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})=-{\sigma }_{\lambda }{\nabla }_{{\mathbf{z}}_{\lambda }}\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})$)，是条件分布的分数；
• (${ϵ}^{\ast }({\mathbf{z}}_{\lambda })=-{\sigma }_{\lambda }{\nabla }_{{\mathbf{z}}_{\lambda }}\log p({\mathbf{z}}_{\lambda })$)，是无条件分布的分数。

隐式分类器的对数为：
$$\log p^i(\mathbf{c}\mid {\mathbf{z}}_{\lambda })=\log \left(\frac{p({\mathbf{z}}_{\lambda }\mid \mathbf{c})p(\mathbf{c})}{p({\mathbf{z}}_{\lambda })}\right)=\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})+\log p(\mathbf{c})-\log p({\mathbf{z}}_{\lambda })。$$
对其求梯度：
$${\nabla }_{{\mathbf{z}}_{\lambda }}\log p^i(\mathbf{c}\mid {\mathbf{z}}_{\lambda })={\nabla }_{{\mathbf{z}}_{\lambda }}\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})+{\nabla }_{{\mathbf{z}}_{\lambda }}\log p(\mathbf{c})-{\nabla }_{{\mathbf{z}}_{\lambda }}\log p({\mathbf{z}}_{\lambda })。$$
由于 ($\log p(\mathbf{c})$) 是 ($\mathbf{c}$) 的先验，与 (${\mathbf{z}}_{\lambda }$) 无关，其梯度为零，因此：
$${\nabla }_{{\mathbf{z}}_{\lambda }}\log p^i(\mathbf{c}\mid {\mathbf{z}}_{\lambda })={\nabla }_{{\mathbf{z}}_{\lambda }}\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})-{\nabla }_{{\mathbf{z}}_{\lambda }}\log p({\mathbf{z}}_{\lambda })。$$
将分数定义代入：
$${\nabla }_{{\mathbf{z}}_{\lambda }}\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})=-\frac{1}{{\sigma }_{\lambda }}{ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c}),{\nabla }_{{\mathbf{z}}_{\lambda }}\log p({\mathbf{z}}_{\lambda })=-\frac{1}{{\sigma }_{\lambda }}{ϵ}^{\ast }({\mathbf{z}}_{\lambda }),$$
于是：
$${\nabla }_{{\mathbf{z}}_{\lambda }}\log p^i(\mathbf{c}\mid {\mathbf{z}}_{\lambda })=-\frac{1}{{\sigma }_{\lambda }}{ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})-\left(-\frac{1}{{\sigma }_{\lambda }}{ϵ}^{\ast }({\mathbf{z}}_{\lambda })\right)=-\frac{1}{{\sigma }_{\lambda }}\left[{ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})-{ϵ}^{\ast }({\mathbf{z}}_{\lambda })\right]。$$
这就是论文中给出的公式：
$${\nabla }_{{\mathbf{z}}_{\lambda }}\log p^i(\mathbf{c}\mid {\mathbf{z}}_{\lambda })=-\frac{1}{{\sigma }_{\lambda }}[{ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})-{ϵ}^{\ast }({\mathbf{z}}_{\lambda })]。$$

2. 将隐式分类器梯度用于引导

在分类器引导中，分数调整为：
$${\widetilde{ϵ}}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})={ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})-w{\sigma }_{\lambda }{\nabla }_{{\mathbf{z}}_{\lambda }}\log p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda }),$$
其中 ($p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })$) 是显式训练的分类器。现在，如果我们用隐式分类器 ($p^i(\mathbf{c}\mid {\mathbf{z}}_{\lambda })$) 替换 ($p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })$)，代入其梯度：
$${\widetilde{ϵ}}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})={ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})-w{\sigma }_{\lambda }\left(-\frac{1}{{\sigma }_{\lambda }}[{ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})-{ϵ}^{\ast }({\mathbf{z}}_{\lambda })]\right)。$$
化简：
$${\widetilde{ϵ}}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})={ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})+w[{ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})-{ϵ}^{\ast }({\mathbf{z}}_{\lambda })]。$$
整理：
$${\widetilde{ϵ}}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})={ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})+w{ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})-w{ϵ}^{\ast }({\mathbf{z}}_{\lambda })=(1+w){ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})-w{ϵ}^{\ast }({\mathbf{z}}_{\lambda })。$$
这正是论文中给出的形式：
$${\widetilde{ϵ}}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})=(1+w){ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})-w{ϵ}^{\ast }({\mathbf{z}}_{\lambda })。$$

3. 与无分类器引导的联系

无分类器引导直接定义：
$${\widetilde{ϵ}}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})=(1+w){ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})-w{ϵ}_{\theta }({\mathbf{z}}_{\lambda }),$$
形式上与隐式分类器引导的结果完全一致。这表明，无分类器引导可以看作是用生成模型自身的条件和无条件分数，模拟了隐式分类器的引导效果。

---

隐式分类器的意义与局限

意义

• 灵感来源：隐式分类器提供了一个理论依据，解释了为什么条件分数和无条件分数的线性组合能起到引导作用。它本质上是利用生成模型的分布差异（(${ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})-{ϵ}^{\ast }({\mathbf{z}}_{\lambda })$)）来增强条件一致性。
• 纯生成性：不像分类器引导需要额外训练 ($p_{\varphi }(\mathbf{c}\mid {\mathbf{z}}_{\lambda })$)，隐式分类器完全依赖生成模型已有信息，与无分类器引导的“无外部监督”理念契合。

局限

• 理论与实践的差异：论文指出，(${ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})$) 和 (${ϵ}_{\theta }({\mathbf{z}}_{\lambda })$) 是神经网络输出，不一定精确对应 ($\log p({\mathbf{z}}_{\lambda }\mid \mathbf{c})$) 和 ($\log p({\mathbf{z}}_{\lambda })$) 的梯度，因此 (${\widetilde{ϵ}}_{\theta }$) 并非严格的隐式分类器引导，而是近似模拟。
• 性能不确定性：文献（如 Grandvalet & Bengio, 2004）表明，隐式分类器在模型misspecification的情况下可能不一致，这也解释了为什么无分类器引导的效果需要实验验证，而非理论保证。

---

总结

隐式分类器 ($p^i(\mathbf{c}\mid {\mathbf{z}}_{\lambda })\propto p({\mathbf{z}}_{\lambda }\mid \mathbf{c})/p({\mathbf{z}}_{\lambda })$) 是通过生成模型分布反推出的分类器，其梯度 (${ϵ}^{\ast }({\mathbf{z}}_{\lambda },\mathbf{c})-{ϵ}^{\ast }({\mathbf{z}}_{\lambda })$) 捕捉了条件分布相对于全局分布的“方向性”。无分类器引导借鉴这一思想，用神经网络预测的分数差来实现类似效果，避免了显式分类器的训练。这种方法既优雅又实用，为扩散模型的优化提供了一个新视角。

代码实现

下面将提供一个简化的、可运行的 PyTorch 代码实现，用于演示《Classifier-Free Diffusion Guidance》的核心思想。这个实现基于一个简单的二维高斯混合分布，便于理解和可视化，同时保留了论文中的关键步骤（联合训练条件与无条件模型、分数混合采样）。会详细解释每个部分的逻辑和实现细节，面向熟悉扩散模型的深度学习研究者。

---

代码目标

• 数据：生成一个二维高斯混合分布（例如两个类别的点云）。
• 模型：训练一个扩散模型，同时支持条件生成（给定类别）和无条件生成（丢弃类别信息）。
• 采样：实现无分类器引导，调整引导强度 ($w$)，生成并可视化结果。

---

完整代码

import torch
import torch.nn as nn
import torch.optim as optim
import numpy as np
import matplotlib.pyplot as plt

# 设置随机种子
torch.manual_seed(42)
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")

# 1. 数据生成：二维高斯混合分布
def generate_data(n_samples=1000):
    # 两个类别的高斯分布
    mean1, cov1 = torch.tensor([2.0, 2.0]), torch.eye(2) * 0.5
    mean2, cov2 = torch.tensor([-2.0, -2.0]), torch.eye(2) * 0.5
    data1 = torch.distributions.MultivariateNormal(mean1, cov1).sample((n_samples // 2,))
    data2 = torch.distributions.MultivariateNormal(mean2, cov2).sample((n_samples // 2,))
    x = torch.cat([data1, data2], dim=0)
    c = torch.cat([torch.zeros(n_samples // 2), torch.ones(n_samples // 2)]).long()
    return x.to(device), c.to(device)

# 2. 噪声调度
def get_alpha_sigma(t):
    # t 是 [0, 1] 之间的归一化时间步
    lambda_t = -10 + 20 * t  # λ 从 -10 到 10
    alpha_t = torch.sqrt(1 / (1 + torch.exp(-lambda_t)))
    sigma_t = torch.sqrt(1 - alpha_t**2)
    return alpha_t, sigma_t

# 3. 模型定义
class SimpleDiffusionModel(nn.Module):
    def __init__(self, input_dim=2, hidden_dim=128, n_classes=2):
        super().__init__()
        self.time_embed = nn.Sequential(
            nn.Linear(1, hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, hidden_dim)
        )
        self.class_embed = nn.Embedding(n_classes + 1, hidden_dim)  # +1 用于无条件（类别 -1）
        self.net = nn.Sequential(
            nn.Linear(input_dim + hidden_dim * 2, hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, hidden_dim),
            nn.ReLU(),
            nn.Linear(hidden_dim, input_dim)
        )

    def forward(self, x, t, c):
        # 时间嵌入
        t = t.view(-1, 1)
        t_embed = self.time_embed(t)
        # 类别嵌入，无条件时 c = -1
        c_embed = self.class_embed(c + 1)  # 将类别从 [0, 1] 映射到 [1, 2]，-1 映射到 0
        # 输入拼接
        combined = torch.cat([x, t_embed, c_embed], dim=-1)
        return self.net(combined)

# 4. 训练函数
def train_model(model, x, c, n_steps=1000, n_epochs=200, p_uncond=0.2):
    optimizer = optim.Adam(model.parameters(), lr=0.001)
    for epoch in range(n_epochs):
        model.train()
        total_loss = 0
        for _ in range(n_steps):
            # 随机时间步
            t = torch.rand(x.shape[0], device=device)
            alpha_t, sigma_t = get_alpha_sigma(t)
            # 添加噪声
            epsilon = torch.randn_like(x)
            z_t = alpha_t[:, None] * x + sigma_t[:, None] * epsilon
            # 随机丢弃条件
            mask = (torch.rand(x.shape[0], device=device) < p_uncond).long()
            c_masked = c * (1 - mask) + (-1) * mask  # 无条件时 c = -1
            # 预测噪声
            epsilon_pred = model(z_t, t, c_masked)
            loss = torch.mean((epsilon_pred - epsilon) ** 2)
            # 优化
            optimizer.zero_grad()
            loss.backward()
            optimizer.step()
            total_loss += loss.item()
        if (epoch + 1) % 50 == 0:
            print(f"Epoch {epoch + 1}, Loss: {total_loss / n_steps:.4f}")
    return model

# 5. 无分类器引导采样
def sample_with_guidance(model, n_samples=500, n_steps=100, w=1.0, c_target=0):
    model.eval()
    with torch.no_grad():
        # 从纯噪声开始
        z = torch.randn(n_samples, 2, device=device)
        for i in range(n_steps - 1, -1, -1):
            t = torch.full((n_samples,), i / n_steps, device=device)
            alpha_t, sigma_t = get_alpha_sigma(t)
            # 计算条件和无条件分数
            c_cond = torch.full((n_samples,), c_target, dtype=torch.long, device=device)
            c_uncond = torch.full((n_samples,), -1, dtype=torch.long, device=device)
            epsilon_cond = model(z, t, c_cond)
            epsilon_uncond = model(z, t, c_uncond)
            # 无分类器引导分数
            epsilon_guided = (1 + w) * epsilon_cond - w * epsilon_uncond
            # 更新 z
            x_tilde = (z - sigma_t[:, None] * epsilon_guided) / alpha_t[:, None]
            if i > 0:
                t_next = torch.full((n_samples,), (i - 1) / n_steps, device=device)
                alpha_next, sigma_next = get_alpha_sigma(t_next)
                mu = (alpha_next / alpha_t) * z + (sigma_next**2 / sigma_t) * (x_tilde - z / alpha_t)
                z = mu + torch.randn_like(z) * torch.sqrt(sigma_next**2 - sigma_t**2 * (1 - sigma_next**2 / sigma_t**2))
            else:
                z = x_tilde
    return z

# 6. 主程序
if __name__ == "__main__":
    # 生成数据
    x, c = generate_data(n_samples=1000)
    # 初始化并训练模型
    model = SimpleDiffusionModel().to(device)
    model = train_model(model, x, c, n_steps=100, n_epochs=200, p_uncond=0.2)
    
    # 采样并可视化
    plt.figure(figsize=(12, 4))
    for i, w in enumerate([0.0, 1.0, 3.0]):
        samples = sample_with_guidance(model, n_samples=500, n_steps=100, w=w, c_target=0)
        samples = samples.cpu().numpy()
        plt.subplot(1, 3, i + 1)
        plt.scatter(samples[:, 0], samples[:, 1], s=5, alpha=0.5)
        plt.title(f"Guidance Strength w={w}")
        plt.xlim(-5, 5)
        plt.ylim(-5, 5)
    plt.tight_layout()
    plt.show()

---

代码详细解释

1. 数据生成 (generate_data)

• 目的：生成一个简单的二维高斯混合分布，模拟条件生成任务。
• 实现：两个类别（($c=0$) 和 ($c=1$)），分别以均值 ($[2,2]$) 和 ($[-2,-2]$) 为中心，方差为 ($0.5$) 的高斯分布。
• 输出：数据 ($\mathbf{x}$)（形状 ($[1000,2]$)）和类别标签 ($\mathbf{c}$)（形状 ([1000])）。

2. 噪声调度 (get_alpha_sigma)

• 目的：定义扩散过程中的 (${\alpha }_{\lambda }$) 和 (${\sigma }_{\lambda }$)，控制信号和噪声的比例。
• 实现：基于论文中的 (${\alpha }_{\lambda }=\sqrt{1/(1+e^{-\lambda })}$)，(${\sigma }_{\lambda }=\sqrt{1-{\alpha }_{\lambda }^2}$)。这里用归一化时间步 ($t\in [0,1]$) 映射到 ($\lambda \in [-10,10]$)。
• 解释：($\lambda$) 模拟信噪比的变化，($t=0$) 时接近纯噪声，($t=1$) 时接近原始数据。

3. 模型定义 (SimpleDiffusionModel)

• 结构：
  • 时间嵌入：将时间步 ($t$) 映射到隐藏维度（128）。
  • 类别嵌入：支持 (n_classes + 1) 个类别（包括无条件类别 ($-1$)）。
  • 主网络：输入为 (${\mathbf{z}}_{\lambda }$)、时间嵌入和类别嵌入的拼接，输出预测噪声 (${ϵ}_{\theta }$)。
• 输入：
  • ($\mathbf{x}$)：噪声数据 (${\mathbf{z}}_{\lambda }$)。
  • ($t$)：当前时间步。
  • ($\mathbf{c}$)：类别（($-1$) 表示无条件）。
• 解释：模型同时学习条件分数 (${ϵ}_{\theta }({\mathbf{z}}_{\lambda },\mathbf{c})$) 和无条件分数 (${ϵ}_{\theta }({\mathbf{z}}_{\lambda },-1)$)。

4. 训练函数 (train_model)

• 算法：实现论文 Algorithm 1（联合训练）。
• 步骤：
  1. 随机采样时间步 ($t$)。
  2. 计算 (${\alpha }_t$) 和 (${\sigma }_t$)，生成噪声数据 (${\mathbf{z}}_t={\alpha }_t\mathbf{x}+{\sigma }_tϵ$)。
  3. 以概率 ($p_{\text{uncond}}=0.2$) 丢弃条件（($\mathbf{c}=-1$)）。
  4. 预测噪声 (${ϵ}_{\theta }({\mathbf{z}}_t,\mathbf{c})$)，计算均方误差损失。
  5. 优化模型参数。
• 解释：通过随机丢弃条件，模型学会同时拟合条件和无条件分布。

5. 无分类器引导采样 (sample_with_guidance)

• 算法：实现论文 Algorithm 2。
• 步骤：
  1. 从纯噪声 ($\mathbf{z}\sim \mathcal{N}(0,\mathbf{I})$) 开始。
  2. 迭代 (n_steps) 次：
     • 计算条件分数 (${ϵ}_{\theta }(\mathbf{z},t,\mathbf{c})$) 和无条件分数 (${ϵ}_{\theta }(\mathbf{z},t,-1)$)；
     • 混合分数：($\widetilde{ϵ}=(1+w){ϵ}_{\text{cond}}-w{ϵ}_{\text{uncond}}$)；
     • 更新 (${\tilde{\mathbf{x}}}_t=(\mathbf{z}-{\sigma }_t\widetilde{ϵ})/{\alpha }_t$)；
     • 计算下一时间步的均值 ($\mu$) 和噪声，更新 ($\mathbf{z}$)。
• 解释：($w$) 控制引导强度，($w=0$) 时退化为普通条件采样，($w>0$) 时增强条件一致性。

6. 主程序

• 训练：训练 200 轮，每轮 100 次更新。
• 采样：以 ($w=0,1,3$) 采样类别 0 的样本，绘制散点图。
• 可视化：观察引导强度对样本分布的影响。

---

运行结果

• ($w=0$)：样本分布接近原始条件分布（类别 0 的高斯），但可能有少量混杂。
• ($w=1$)：样本更集中于类别 0 的中心，质量提升。
• ($w=3$)：样本高度集中，失去部分多样性，但更符合条件。

---

注意事项

1. 简化：这是一个玩具示例，未使用复杂的 U-Net 或 ImageNet 数据，仅展示核心概念。
2. 超参数：($n_{s}teps=100$)、($p_{\text{uncond}}=0.2$)、学习率等可调整以优化效果。
3. 扩展：实际应用中需加入 DDIM 等高级采样器，或处理更高维数据（如图像）。

---

总结

这个实现展示了无分类器引导的关键步骤：联合训练条件与无条件模型、在采样时混合分数。通过调整 ($w$)，你可以看到样本质量与多样性的权衡，与论文中的理论和实验一致。希望这个代码和解释能帮助你深入理解并实验这一方法！

后记

2025年3月17日21点04分于上海，在Grok 3大模型辅助下完成。