系列第 8/8 篇（完结） ← 上一篇 | 术语表

建议先看完第1-7篇，尤其是第7篇的采样方法和潜变量模型。本篇讲四种生成模型：GAN、标准化流、自编码器和扩散模型。

Chapter 17 生成对抗网络 (GAN)

可以去kaggle-我自己也是个画家↗看看（

对抗训练

用人话说：GAN的核心思想可以用”造假者vs鉴定师”来理解。生成器（Generator）就像一个造假画的人，它的目标是画出足以以假乱真的画；判别器（Discriminator）就像一个鉴定师，它的目标是分辨出哪些是真画、哪些是假画。两者不断博弈，造假者的水平越来越高，鉴定师的眼光也越来越准——最终造假者能生成以假乱真的作品。

生成模型的目标是学习一个从训练数据集中抽取样本所遵循的概率分布（即数据的”生成规律”） $p_{\text{data}}(\mathbf{x})$ 。一旦模型学会了这个分布，它就可以生成新的、与训练数据相似的样本。

• 参数化模型（Parametric Model）：我们引入一个带可学习参数的生成模型 $p(\mathbf{x} | \mathbf{w})$，其中 $\mathbf{x}$ 是数据空间中的向量（如图像的像素值），$\mathbf{w}$ 是模型的可学习参数。
• 条件生成模型（Conditional Generative Model）：有时我们希望生成特定类型的样本，例如生成一只猫的图片。这可以通过引入条件变量 $\mathbf{c}$ 来实现，模型变为 $p(\mathbf{x} | \mathbf{c}, \mathbf{w})$。$\mathbf{c}$ 可以是类别标签（如”猫”或”狗”）或更复杂的描述。

本章讨论的第一类生成模型是非线性潜在变量模型（Nonlinear Latent Variable Model）。其核心思想是通过一个非线性变换，将一个简单的低维潜在分布（潜变量 $\mathbf{z}$ 所服从的分布）映射到复杂的高维数据分布。

还记得第7篇的潜变量模型吗？ GAN也使用了同样的框架：一个简单的潜变量 $\mathbf{z}$ 通过神经网络变换为复杂的数据样本 $\mathbf{x}$。

• 潜在空间（Latent Space）：引入一个低维的潜在变量 $\mathbf{z}$，它遵循一个简单的先验分布 $p(\mathbf{z})$ ，通常选择标准正态分布： $$p(\mathbf{z}) = \mathcal{N}(\mathbf{z} | \mathbf{0}, \mathbf{I})$$
• 生成器网络：定义一个由深度神经网络实现的非线性函数 $\mathbf{x} = g(\mathbf{z}, \mathbf{w})$ ，其中 $\mathbf{w}$ 是网络的权重参数。这个网络被称为生成器（Generator）。
• 隐式分布（Implicit Distribution）：生成器网络 $g(\mathbf{z}, \mathbf{w})$ 和先验分布 $p(\mathbf{z})$ 一起，隐式地 定义了数据空间上的一个分布 $p_G(\mathbf{x})$。我们无法直接写出 $p_G(\mathbf{x})$ 的解析形式，但可以通过从 $p(\mathbf{z})$ 采样 $\mathbf{z}$ 并计算 $g(\mathbf{z}, \mathbf{w})$ 来生成服从 $p_G(\mathbf{x})$ 的样本。

对抗网络：生成器从潜变量 z 生成假图像，判别器判断输入是真是假

上图展示了 GAN 的整体架构：

• 左侧：一个”Latent Variable” $\mathbf{z}$ 输入到”Generator”网络 $g(\mathbf{z}, \mathbf{w})$，输出”Synthetic Images”（合成图像）$\mathbf{x}_{\text{synth}}$。
• 中间：一个”Discriminator”网络 $d(\mathbf{x}, \mathbf{\phi})$。 判别器接收两类输入：来自训练集的”Real Images”（真实图像）$\mathbf{x}_{\text{real}}$ 和来自生成器的合成图像。
• 判别器输出一个标量 $t \in [0, 1]$，表示输入图像是真实图像的概率。

对抗训练

对抗训练是 GAN 的核心机制。它引入了第二个网络——判别器（Discriminator），与生成器进行一场博弈。

• 判别器网络：这是一个分类神经网络 $d(\mathbf{x}, \mathbf{\phi})$ ，其参数为 $\mathbf{\phi}$。它的任务是区分输入图像是来自真实数据集 $\{ \mathbf{x}_n \}$ 还是由生成器产生的合成图像。判别器的输出是一个介于 0 和 1 之间的标量，表示输入图像是真实图像的概率。
• 博弈过程（想象一下造假者和鉴定师的对决）：
  • 生成器的目标：最大化判别器的错误率。它希望生成的图像 $\mathbf{x}_{\text{synth}} = g(\mathbf{z}, \mathbf{w})$ 能够”欺骗”判别器，让判别器认为它是真实图像，即 $d(g(\mathbf{z}, \mathbf{w}), \mathbf{\phi}) \approx 1$。
  • 判别器的目标：最小化自己的错误率。它希望准确地区分真实图像和合成图像，即对于真实图像 $\mathbf{x}_{\text{real}}$ ，输出 $d(\mathbf{x}_{\text{real}}, \mathbf{\phi}) \approx 1$；对于合成图像 $\mathbf{x}_{\text{synth}}$ ，输出 $d(\mathbf{x}_{\text{synth}}, \mathbf{\phi}) \approx 0$。

训练过程

你可能会问：造假者和鉴定师怎么”一起训练”？答案是交替训练——先固定一个，训练另一个，然后轮换。

1. 训练判别器（固定生成器不动）：

• 从真实数据集中采样一批真实样本 $\{ \mathbf{x}_n \}$。
• 从潜在分布 $p(\mathbf{z})$ 中采样一批 $\mathbf{z}$ ，通过生成器得到一批合成样本 $\{ g(\mathbf{z}_n, \mathbf{w}) \}$。
• 计算判别器的损失 $L_D$，让判别器学会区分真假： $$L_D = -\left[ \frac{1}{N_{\text{real}}} \sum_{n \in \text{real}} \log d(\mathbf{x}_n, \mathbf{\phi}) + \frac{1}{N_{\text{synth}}} \sum_{n \in \text{synth}} \log(1 - d(g(\mathbf{z}_n, \mathbf{w}), \mathbf{\phi})) \right]$$
• 使用梯度下降法更新判别器参数 $\mathbf{\phi}$ 以最小化 $L_D$。

2. 训练生成器（固定判别器不动）：

• 从潜在分布 $p(\mathbf{z})$ 中采样一批 $\mathbf{z}$。
• 通过生成器得到合成样本 $\{ g(\mathbf{z}_n, \mathbf{w}) \}$。
• 计算生成器的损失 $L_G$。

• 使用梯度下降法更新生成器参数 $\mathbf{w}$ 以最小化 $L_G$。

两种损失函数的梯度对比：为什么用 -log(d) 替代 log(1-d)

简单来说就是：横轴 $d$ 是判别器的输出（0=假，1=真）。当生成器很差（$d \approx 0$）时，$\log(1-d)$ 的梯度几乎为零（“学不动”），而 $-\log(d)$ 的梯度很大（“学得快”）。

模式崩溃（Mode Collapse）

想象一下：你让一个人画各种动物，结果他发现画猫特别容易骗过鉴定师，于是不管你怎么催他，他永远只画猫。这就是模式崩溃——生成器”偷懒”只生成少数几种输出。

模式崩溃是 GAN 训练中一个常见且严重的问题。

• 定义：在训练过程中，生成器的权重可能会适应到一种状态，使得所有潜在变量样本 $\mathbf{z}$ 都被映射到数据分布中一个很小的、有效的输出子集上。在极端情况下，生成器可能只会生成一个或少数几个固定的输出 $\mathbf{x}$。
• 例子：一个训练手写数字的 GAN 可能学会只生成数字”3”，而完全忽略其他数字。
• 后果：虽然判别器无法区分这些”3”与真实的”3”，但它无法识别生成器没有生成完整的数字范围。此时，判别器对这些”3”样本的输出会稳定在 0.5 左右（表示它完全无法区分），导致训练停止，生成器无法进一步改进。
• 原因：这通常发生在判别器变得过于强大，或者生成器找到了一个可以稳定”欺骗”判别器的捷径时。

零梯度问题

用人话说：刚开始训练时，造假者的水平太差，鉴定师一眼就能看出真假。这时造假者得到的反馈是”你做的太假了”，但没有任何具体的改进方向——就像一个学生考试得了零分，但老师只说”错了”而不告诉他哪里错。这就是梯度消失问题。

训练 GAN 的一个根本困难在于，当生成分布 $p_G(\mathbf{x})$ 和真实数据分布 $p_{\text{data}}(\mathbf{x})$ 差异很大时，判别器很容易学习，并且其梯度信号会变得非常弱。

两个分布相距很远时，判别器在生成样本区域几乎为零，导致梯度消失

上图展示了问题所在：

• $p_{\text{data}}(x)$ 是真实数据的分布（例如一个高斯分布）。
• $p_G(x)$ 是生成器的初始分布（例如另一个远离的高斯分布）。
• 判别器函数 $d(x)$ 在真实数据附近输出接近 1，在生成样本附近输出接近 0。

改进

为了解决训练困难，研究者提出了多种改进方法。

最小二乘 GAN (LSGAN)

简单来说就是：把判别器的判断标准从”是/否概率”改成”打分”，用分数差距来给生成器提供梯度。

• 使用一个更平滑的判别器函数 $\tilde{d}(x)$，使其在生成样本区域有更强的梯度，从而为生成器提供更有效的学习信号。
• 最小二乘 GAN（Least-Squares GAN, LSGAN）：
  • 修改判别器，使其输出一个实数值 $d(\mathbf{x}, \mathbf{\phi}) \in \mathbb{R}$，而不是概率 $[0, 1]$。
  • 将交叉熵损失替换为最小二乘损失： $$\min_{\mathbf{w}} \max_{\mathbf{\phi}} V_{\text{LSGAN}} = \mathbb{E}_{\mathbf{x} \sim p_{\text{data}}}[(d(\mathbf{x}, \mathbf{\phi}) - b)^2] + \mathbb{E}_{\mathbf{z} \sim p(\mathbf{z})}[(d(g(\mathbf{z}, \mathbf{w}), \mathbf{\phi}) - a)^2]$$ 其中 $a$ 和 $b$ 是目标值（例如 $a=0, b=1$）。这种损失函数在远离目标值时会产生更大的梯度，有助于缓解梯度消失问题。

输入噪声

• 向真实数据和合成样本都添加高斯噪声。
• 效果：这使得数据点不再集中在离散的位置，而是散布在一个小区域内。这迫使判别器学习一个更平滑的决策边界，从而避免了在生成样本区域出现陡峭的、梯度为零的悬崖。

Wasserstein GAN (WGAN)

想象一下：假设 $p_G$ 是一堆土，$p_{\text{data}}$ 是目标地形。Wasserstein 距离就是把这堆土搬到目标位置需要的最小”工作量”（土量 x 距离）。这个距离即使在两堆土完全不重叠时也能告诉你”差多远”，而原始GAN的损失在这种情况下已经”罢工”了（梯度为零）。

• 直接衡量生成分布 $p_G(\mathbf{x})$ 和真实分布 $p_{\text{data}}(\mathbf{x})$ 之间的距离（Wasserstein距离，又称推土机距离 Earth Mover’s Distance），并让生成器最小化这个距离。
• 实现（WGAN）：
  • 使用一个输出实数值的判别器（现在称为批评家 Critic）。
  • 通过梯度惩罚（Gradient Penalty）来限制判别器函数的梯度 $\nabla_{\mathbf{x}} d(\mathbf{x}, \mathbf{\phi})$ 的范数（使其接近 1），这保证了判别器是 1-Lipschitz 连续的（即函数变化率有上界），从而可以近似 Wasserstein 距离。

图像的生成对抗网络

深度卷积 GAN (DCGAN)

还记得第5篇的CNN吗？ DCGAN就是把CNN的卷积结构用到了GAN里面。

DCGAN 是 GAN 发展史上的一个重要里程碑，它证明了 GAN 可以生成高质量的图像。

• 架构：使用标准的卷积神经网络（CNN）作为生成器和判别器。
  • 生成器：从一个低维的潜在向量 $\mathbf{z}$ 开始，通过一系列的转置卷积（Transposed Convolution，一种”反向卷积”，用于将小图像放大）层逐步生成高分辨率的图像。
  • 判别器：一个标准的 CNN 分类器，输入图像并输出一个标量概率。
• 训练稳定性：通过使用批量归一化（Batch Normalization）、合适的非线性激活函数（如 ReLU 和 Leaky ReLU）等技巧，DCGAN 的训练比早期的 GAN 更加稳定。

CycleGAN

想象一下：你有很多马的照片和斑马的照片，但没有”同一匹马变成斑马”的配对照片。CycleGAN 依然能学会马变斑马！它的秘诀是”循环一致性”——把马变成斑马再变回马，应该得到原来的马。

CycleGAN 是一种用于无配对图像到图像翻译（Unpaired Image-to-Image Translation）的模型。

• 问题：我们有两个图像域 $X$（如马的照片）和 $Y$（如斑马的照片），但没有成对的样本（即没有”同一匹马变成斑马”的配对图像）。
• 目标：学习一个映射 $G_{X \to Y}$，能将域 $X$ 的图像转换为域 $Y$ 的图像，反之亦然 $G_{Y \to X}$。
• 对抗损失：
  • 引入两个判别器 $D_X$ 和 $D_Y$。
  • $D_Y$ 试图区分真实的 $Y$ 域图像和 $G_{X \to Y}(X)$ 生成的图像。
  • $D_X$ 试图区分真实的 $X$ 域图像和 $G_{Y \to X}(Y)$ 生成的图像。
• 循环一致性损失（Cycle Consistency Loss）：
  • 为了确保翻译是合理的，引入循环一致性约束。将一张 $X$ 域的图像 $\mathbf{x}$ 转换到 $Y$ 域，再转换回 $X$ 域，应该得到一个与原始图像 $\mathbf{x}$ 非常相似的图像（”去了一趟再回来，还是一样的”）。

通过CycleGAN的信息流。数据点xn和yn的总误差是其4个组成部分误差的总和

潜在空间的语义结构

一个令人惊讶的发现是，训练好的 GAN 的潜在空间 $\mathbf{z}$ 会自发地组织成具有语义意义的结构。

• 平滑插值：如果在潜在空间中沿着一条平滑的路径从 $\mathbf{z}_1$ 走到 $\mathbf{z}_2$ ，生成的图像会平滑地从一个场景过渡到另一个场景，中间的图像看起来都很合理。

通过在潜空间内部随机生成的位置之间进行平滑移动得到

• 解耦表示（Disentangled Representation）：可以找到潜在空间中的特定方向，这些方向对应于语义上有意义的变换——比如改变微笑程度、改变发色、改变年龄等。
  • 例子（人脸）：

第17章小结

一句话版本：造假者（生成器）和鉴定师（判别器）不断博弈，最终造假者能生成以假乱真的作品。

知识地图：

• 核心思想：生成器 vs 判别器的极小极大博弈
• 关键问题：模式崩溃、梯度消失、训练不稳定
• 改进路线：LSGAN（平滑损失）-> WGAN（Wasserstein距离）-> CycleGAN（无配对翻译）
• 有趣性质：潜在空间有语义结构，可以”算术运算”（如 微笑的男人 - 男人 + 女人 = 微笑的女人）

Chapter 18 标准化流 (Normalizing Flows)

想象一下：你有一块橡皮泥，形状很简单（比如一个球）。标准化流就是一系列可逆的”捏”和”拉”操作，把这块简单的橡皮泥变成任何你想要的复杂形状（比如一匹马）。关键在于每一步都是可逆的——你也能把马捏回球。这就是标准化流的核心思想：通过一系列可逆变换，把简单的分布”变形”成复杂的分布。

还记得第7篇的变量替换公式吗？ 标准化流的数学基础正是概率论中的变量替换：当你对一个随机变量做可逆变换时，新变量的概率密度可以通过雅可比行列式（Jacobian determinant，衡量变换对体积的缩放因子）来计算。

本章的目标是设计一类可逆（Invertible）的函数，这些函数可以作为生成模型中的变换层。这类模型被称为标准化流（Normalizing Flow）。关键要求是：

• 可逆性：给定输出 $\mathbf{x}$，必须能唯一地计算出输入 $\mathbf{z}$。
• 易计算的雅可比行列式（Jacobian Determinant）：为了计算概率密度变换，需要知道变换的雅可比矩阵 $\mathbf{J}$ 的行列式 $|\det \mathbf{J}|$ 。这个计算必须是高效的。

考虑一个简单的线性变换：

其逆变换为：

虽然可逆且雅可比行列式容易计算（$|\det \mathbf{J}| = |a|$），但它有一个根本性问题：线性变换在组合下是封闭的 。这意味着无论堆叠多少层线性变换，其整体效果仍然是一个线性变换。就像你无论怎么叠加拉伸和旋转，橡皮泥的形状本质上还是简单的。因此，即使使用多层，也只能生成高斯分布，无法捕捉复杂、非高斯的数据分布。

耦合流 (Coupling Flow)

想象一下：你把橡皮泥分成左右两半。左边那一半先不动，右边那一半根据左边的形状来”捏”——左边如果是圆的，右边就拉长；左边如果是扁的，右边就压扁。然后交换角色，右边不动，左边根据右边来”捏”。交替几次之后，橡皮泥就变成了复杂的形状！

为了解决线性变换表达能力不足的问题，我们引入耦合流（Coupling Flow），以 Real NVP（Real-valued Non-Volume Preserving）为例。

• 核心思想：将潜在变量向量 $\mathbf{z}$ 分成两部分 $\mathbf{z} = (\mathbf{z}_A, \mathbf{z}_B)$，维度分别为 $d$ 和 $D-d$。对这两部分应用不同的变换。
• 变换规则：
  1. 第一部分 $\mathbf{z}_A$ 直接复制到输出（“不动的那半”）： $$\mathbf{x}_A = \mathbf{z}_A$$
  2. 第二部分 $\mathbf{z}_B$ 进行一个仿射变换（Affine Transformation，即缩放+平移），但变换的参数（平移 $b$ 和缩放 $s$）是 $\mathbf{z}_A$ 的非线性函数： $$\mathbf{x}_B = \exp(s(\mathbf{z}_A, \mathbf{w})) \odot \mathbf{z}_B + b(\mathbf{z}_A, \mathbf{w})$$ 其中 $\odot$ 表示哈达玛积（Hadamard Product，即逐元素相乘）。$s(\mathbf{z}_A, \mathbf{w})$ 和 $b(\mathbf{z}_A, \mathbf{w})$ 是由神经网络计算的缩放和平移向量。指数函数 $\exp(\cdot)$ 确保缩放因子为正，保证变换可逆。

实值NVP标准化流模型的单层结构

多层堆叠

单层 Real NVP 有一个明显限制：$\mathbf{z}_A$ 在变换中保持不变（“一半橡皮泥没被捏”）。这限制了模型的表达能力。

• 解决方案：堆叠多个耦合层，并在每一层交换 $\mathbf{z}_A$ 和 $\mathbf{z}_B$ 的角色。
  • 第一层：$\mathbf{z}_A$ 不变，$\mathbf{z}_B$ 变换。
  • 第二层：$\mathbf{z}_B$ 不变，$\mathbf{z}_A$ 变换。
• 效果：通过这种交替，每一部分变量在不同的层中都会被变换。堆叠足够多的层后，模型可以学习非常复杂的、非线性的可逆变换。

多层堆叠的耦合流：通过交替交换角色，所有变量都会被变换

自回归流 (Autoregressive Flow)

想象一下：画画的时候，你先画天空（$x_1$），然后根据天空的颜色决定画什么颜色的草地（$x_2$），再根据天空和草地决定画什么颜色的房子（$x_3$）…每一个像素的值都取决于它前面已经画好的像素。这就是”自回归”的思想。

自回归流的灵感来自于概率论中的一个基本事实：任何多维联合分布都可以分解为一系列条件分布的乘积。

• 联合分布分解：对于一个 $D$ 维的向量 $\mathbf{x} = (x_1, x_2, ..., x_D)$，其联合概率可以写为： $$p(\mathbf{x}) = p(x_1, x_2, ..., x_D) = \prod_{i=1}^D p(x_i | x_1, x_2, ..., x_{i-1}) = \prod_{i=1}^D p(x_i | \mathbf{x}_{1:i-1})$$ 其中 $\mathbf{x}_{1:i-1}$ 表示 $x_1$ 到 $x_{i-1}$ 的子向量。这要求我们对变量进行一个固定的排序。

掩码自回归流 (MAF)

掩码自回归流（Masked Autoregressive Flow, MAF）直接利用上述分解，构建一个可逆的生成模型。

• 变换规则：MAF 定义了一个从潜在变量 $\mathbf{z}$ 到数据 $\mathbf{x}$ 的变换： $$x_i = h(z_i, g_i(\mathbf{x}_{1:i-1}, \mathbf{w}_i))$$
  • $z_i$ 是潜在变量 $\mathbf{z}$ 的第 $i$ 个分量。
  • $g_i(\mathbf{x}_{1:i-1}, \mathbf{w}_i)$ 是一个条件器（Conditioner），通常是一个神经网络，它根据前面的 $x_1, ..., x_{i-1}$ 来预测变换的参数。
  • $h(\cdot, \cdot)$ 是一个耦合函数，它将 $z_i$ 和条件器的输出结合起来生成 $x_i$。这个函数必须关于 $z_i$ 是 可逆的。
  • 关键点：$x_i$ 只依赖于 $z_i$ 和它前面的 $x_1, ..., x_{i-1}$，不依赖于后面的 $x_{i+1}, ..., x_D$ 。
• 掩码（Masking）：为了在神经网络中实现这种”只依赖于前面变量”的约束，可以使用掩码 。通过在神经网络的权重矩阵中设置特定的零值，强制网络在计算 $x_i$ 时忽略 $x_j (j \geq i)$ 的信息。

MAF vs IAF：效率的权衡

用人话说：MAF 和 IAF 就像同一枚硬币的两面。MAF “问概率快、生成慢”，IAF “生成快、问概率慢”。你选哪个取决于你的任务。

掩码自回归流（MAF）——高效似然计算，低效采样：

• 给定一个数据点 $\mathbf{x}$，我们可以高效地计算其对数似然 $\log p(\mathbf{x})$——因为所有 $z_i$ 可以并行计算（$\mathbf{x}$ 已知）。
• 但从 MAF 采样则非常慢，因为生成过程必须严格按照顺序 $x_1 \to x_2 \to ... \to x_D$ 进行，每一步都必须等待前一步完成，时间复杂度为 $O(D)$。

逆自回归流（IAF, Inverse Autoregressive Flow）——高效采样，低效似然计算：

• 变换规则变为 $x_i = h(z_i, g_i(\mathbf{z}_{1:i-1}, \mathbf{w}_i))$——条件器依赖于潜在变量 $\mathbf{z}_{1:i-1}$ 而不是数据变量 $\mathbf{x}_{1:i-1}$。
• 由于 $\mathbf{z}$ 可以一次性采样，所有 $x_i$ 可以并行计算，采样非常快。
• 但计算似然（逆变换）需要串行求解，因为计算 $z_i$ 必须先知道 $\mathbf{z}_{1:i-1}$。

两种自回归标准化流结构，(a)掩码自回归流允许对似然函数进行有效评估，(b)逆自回归流允许进行高效采样

选择依据：

• 如果你需要快速评估数据点的概率（例如密度估计、异常检测），选择 MAF。
• 如果你需要快速生成大量样本（例如图像生成），选择 IAF。

与耦合流的关系：自回归流和耦合流是密切相关的。耦合流可以看作是自回归流的一种特例——它把变量分成两组（$A$ 和 $B$ ）而不是 $D$ 组。这牺牲了一些表达能力，但极大地提高了计算效率（因为每组内的变换可以并行）。

连续流 (Continuous Flows)

神经 ODE (Neural ODE)

想象一下：普通的神经网络就像走楼梯——一步一个台阶，离散地跳跃。而神经 ODE 就像坐电梯——平滑地、连续地上升。

传统的神经网络和标准化流模型都是由离散的层组成的。神经常微分方程（Neural ODE）提供了一种全新的视角：将网络视为一个连续的动态系统。

• 核心思想：不是定义一系列离散的变换 $\mathbf{z}_0 \to \mathbf{z}_1 \to \dots \to \mathbf{z}_L$，而是定义一个连续时间 ** $t$ 上的向量场**（Vector Field，描述每个点的运动方向和速度）$\mathbf{f}(\mathbf{z}(t), \mathbf{w})$，其中 $\mathbf{z}(t)$ 是在时间 $t$ 的状态向量。
• 微分方程：状态 $\mathbf{z}(t)$ 的演化由一个常微分方程（ODE）描述： $$\frac{d\mathbf{z}(t)}{dt} = \mathbf{f}(\mathbf{z}(t), \mathbf{w})$$ 其中 $\mathbf{f}(\cdot)$ 是一个由深度神经网络实现的函数，$\mathbf{w}$ 是其参数。
• 初始和最终状态：给定初始状态 $\mathbf{z}(0)$，我们可以积分（integrate）这个 ODE，从 $t=0$ 到 $t=T$ ，得到最终状态 $\mathbf{z}(T)$： $$\mathbf{z}(T) = \mathbf{z}(0) + \int_0^T \mathbf{f}(\mathbf{z}(t), \mathbf{w}) dt$$
• 与传统网络的类比：这类似于残差网络（ResNet）： $$\mathbf{z}_{l+1} = \mathbf{z}_l + \mathbf{f}(\mathbf{z}_l, \mathbf{w}_l) \Delta t$$ 当步长 $\Delta t \to 0$ 时，离散的残差连接就收敛到连续的 ODE。

由于 $\mathbf{f}(\mathbf{z}(t), \mathbf{w})$ 是一个复杂的神经网络，通常无法解析求解 ODE。我们需要使用数值 ODE 求解器 （如 Runge-Kutta 方法）。

• 过程：
  1. 定义 ODE 函数 $\mathbf{f}(\mathbf{z}(t), \mathbf{w})$。
  2. 提供初始条件 $\mathbf{z}(0)$。
  3. 指定积分区间 $[0, T]$。
  4. 调用黑盒 ODE 求解器（如 scipy.integrate.solve_ivp）来计算 $\mathbf{z}(T)$。
• 求解器的自适应性：高级求解器（如 dopri5）是自适应的。它们会根据函数 $\mathbf{f}$ 的复杂程度，自动选择积分步长和时间点 $t$。这使得求解过程更高效、更精确。

反向传播（伴随方法）

训练神经 ODE 的主要挑战是计算损失函数 $L$ 关于参数 $\mathbf{w}$ 的梯度。Chen et al. (2018) 提出了一种高效的伴随方法（Adjoint Method），其内存成本与网络深度无关——这是一个巨大的优势。

神经 ODE 流

神经 ODE 可以用于构建一种新型的标准化流模型，称为连续标准化流。

• 变换：从输入 $\mathbf{z}(0)$ 到输出 $\mathbf{z}(T)$ 的变换由 ODE 定义： $$\frac{d\mathbf{z}(t)}{dt} = \mathbf{f}(\mathbf{z}(t), \mathbf{w})$$
• 密度变换：如果我们在输入空间定义一个简单的先验分布 $p(\mathbf{z}(0))$（如标准正态分布），那么通过 ODE 的演化，这个分布会传播到输出空间 $p(\mathbf{z}(T))$。
• 对数密度的演化：Chen et al. (2018) 证明，对数概率密度 $\log p(\mathbf{z}(t))$ 的演化遵循另一个 ODE： $$\frac{d \log p(\mathbf{z}(t))}{dt} = -\text{Tr}\left( \frac{\partial \mathbf{f}}{\partial \mathbf{z}(t)} \right)$$ 其中 $\partial \mathbf{f} / \partial \mathbf{z}$ 是 $\mathbf{f}$ 关于 $\mathbf{z}$ 的雅可比矩阵，$\text{Tr}(\cdot)$ 表示矩阵的迹。
• 训练：为了计算输出 $\mathbf{z}(T)$ 的对数似然 $\log p(\mathbf{z}(T))$，我们需要同时求解两个 ODE：
  1. $d\mathbf{z}/dt = \mathbf{f}(\mathbf{z}, \mathbf{w})$，从 $\mathbf{z}(0)$ 到 $\mathbf{z}(T)$。
  2. $d\log p/dt = -\text{Tr}(\partial \mathbf{f} / \partial \mathbf{z})$，从 $\log p(\mathbf{z}(0))$ 到 $\log p(\mathbf{z}(T))$。 这可以通过将两个方程拼接成一个增广系统来实现，然后用一个 ODE 求解器同时求解。
• 采样：从 $p(\mathbf{z}(T))$ 采样时，先从 $p(\mathbf{z}(0))$ 采样 $\mathbf{z}(0)$，然后通过求解 ODE 得到 $\mathbf{z}(T)$。

一个简单高斯分布是如何通过连续转换变成t=T时刻的一个多峰分布的。当流线分开时，密度降低；当流线靠拢时，密度增加

第18章小结

一句话版本：通过一系列可逆变换，把简单的分布（如高斯分布）“变形”成复杂的数据分布，就像把橡皮泥捏成任意形状。

知识地图：

• 核心思想：可逆变换 + 变量替换公式（雅可比行列式）
• 三大架构：耦合流（Real NVP，分两半交替变换）、自回归流（MAF/IAF，逐维度条件变换）、连续流（Neural ODE，连续变换）
• 关键权衡：MAF “问概率快、生成慢”，IAF “生成快、问概率慢”
• 与GAN对比：标准化流能精确计算似然（GAN不能），但表达能力受限于可逆约束

Chapter 19 自编码器 (Autoencoder)

想象一下：自编码器就像”有损压缩”。你把一张高清照片压缩成一个小文件（编码），然后从小文件还原出一张照片（解码）。压缩的过程就是”提取精华”，还原的过程就是”从精华重建”。如果压缩还原后的照片和原图很像，说明编码器学到了数据的核心特征。

确定性的自编码器 (Deterministic Autoencoder)

自编码器（Autoencoder）是一种旨在学习数据有效表示的神经网络模型。其核心思想是通过一个”编码-解码”过程来重构输入数据。

• 网络结构：一个典型的自编码器包含两部分：
  1. 编码器（Encoder）：将输入向量 $\mathbf{x}$ 映射到一个潜在表示（Latent Representation，也叫隐藏表示）$\mathbf{z}(\mathbf{x})$。
  2. 解码器（Decoder）：将潜在表示 $\mathbf{z}$ 映射回输出向量 $\mathbf{y}(\mathbf{z})$。
• 训练目标：网络的输出单元数与输入单元数相同。训练的目标是让网络的输出 $\mathbf{y}$ 尽可能接近原始输入 $\mathbf{x}$，从而学习一个恒等映射。
• 潜在表示：训练完成后，网络内部的隐藏层（即 $\mathbf{z}$）提供了一种对输入数据的压缩或抽象表示，可用于后续任务（如分类、聚类）。

如果不对网络施加任何限制，最简单的解是让网络学习一个恒等函数（直接复制输入到输出），这就像”压缩”后文件大小不变——完全没用。为了迫使网络学习有意义的表示，必须引入某种形式的约束。

• 引入约束：常见的约束方式有：
  1. 维度约束：限制潜在表示 $\mathbf{z}$ 的维度 $M$ 小于输入 $\mathbf{x}$ 的维度 $D$（即 $M < D$）。这迫使网络进行 降维（Dimensionality Reduction），学习数据中最主要的特征——就像把100维的数据压缩成10维。
  2. 稀疏性约束（Sparsity Constraint）：即使 $M \geq D$，也可以通过正则化（如 L1 正则化）鼓励 $\mathbf{z}$ 中的大部分元素为零，从而学习一个稀疏表示。
  3. 去噪约束：通过向输入添加噪声，训练网络从被破坏的输入中恢复原始输入。这迫使网络学习数据的内在结构和鲁棒性。

线性自编码器

考虑一个最简单的自编码器：输入层、一个隐藏层（$M < D$）、输出层，且所有激活函数都是线性的。

• 误差函数：通常使用平方误差来衡量重构误差： $$E(\mathbf{w}) = \frac{1}{2} \sum_{n=1}^N \| \mathbf{y}(\mathbf{x}_n, \mathbf{w}) - \mathbf{x}_n \|^2$$
• 与 PCA 的等价性：当隐藏层使用线性激活函数时，该自编码器的最优解等价于主成分分析。
  • 在误差函数的全局最小值处，网络将输入数据投影到由数据前 $M$ 个主成分张成的子空间上。
  • 连接到隐藏单元的权重向量构成了主子空间的一组基（尽管它们不一定正交或归一化）。
• 非线性激活函数的局限性：即使在隐藏层使用非线性激活函数（如 sigmoid），对于这种两层网络结构，最优解仍然等价于线性 PCA。这表明仅靠非线性激活函数无法突破线性降维的限制。

深度自编码器

为了实现真正的非线性降维，需要引入更深的网络结构。

• 非线性映射：网络可以看作两个连续的映射 $F_1$ 和 $F_2$：
  • $F_1$：将 $D$ 维输入空间映射到 $M$ 维潜在空间 $S$。由于非线性层的存在，这个映射可以非常复杂，不再局限于线性变换。
  • $F_2$：将 $M$ 维潜在空间 $S$ 映射回 $D$ 维输出空间。
• 几何解释：如下图所示，$F_2$ 定义了潜在流形 $S$ 如何嵌入到高维数据空间中。由于 $F_2$ 是非线性的，这个嵌入可以是非平面的，从而能够捕捉数据中复杂的非线性结构。
• 训练挑战：与线性自编码器不同，深度自编码器的误差函数 $E(\mathbf{w})$ 不再是关于参数 $\mathbf{w}$ 的二次函数，因此优化过程是非线性的。这需要使用计算量大的非线性优化技术，并且存在陷入局部最优的风险。

几何解释

稀疏自编码器

另一种约束方式是通过正则化来鼓励潜在表示 $\mathbf{z}$ 的稀疏性。

• L1 正则化：在误差函数中加入一个 L1 范数项，惩罚潜在单元激活值的绝对值之和： $$E(\mathbf{w}) = E(\mathbf{w}) + \lambda \sum_{k=1}^K |z_k|$$ 其中 $E(\mathbf{w})$ 是原始的未正则化误差（如平方误差），$K$ 是隐藏层的单元数，$\lambda$ 是正则化系数。
• 效果：L1 正则化倾向于产生稀疏解，即大部分 $z_k$ 的值为零或接近零。这迫使网络只使用少数几个隐藏单元来表示输入，从而学习到更具解释性的特征。
• 梯度计算：尽管正则化项作用于单元激活值而非网络参数，但通过自动微分仍然可以高效地计算梯度用于训练。

去噪自编码器 (Denoising Autoencoder)

还记得后面的扩散模型吗？ 去噪自编码器和扩散模型的核心思想非常相似——都是”给数据加噪声，然后学习去掉噪声”。可以说，去噪自编码器是扩散模型的思想前身。

去噪自编码器通过学习从被破坏的输入中恢复原始输入来学习数据的鲁棒表示。

• 训练过程：
  1. 取一个原始输入向量 $\mathbf{x}_n$。
  2. 对其施加噪声（如随机将部分输入置零，或添加高斯噪声），得到一个被破坏的版本 $\tilde{\mathbf{x}}_n$。
  3. 将 $\tilde{\mathbf{x}}_n$ 作为输入送入自编码器，得到输出 $\mathbf{y}(\tilde{\mathbf{x}}_n, \mathbf{w})$。
  4. 训练目标是最小化输出与原始、未破坏的输入 $\mathbf{x}_n$ 之间的误差： $$E(\mathbf{w}) = \sum_{n=1}^N \| \mathbf{y}(\tilde{\mathbf{x}}_n, \mathbf{w}) - \mathbf{x}_n \|^2$$
• 学习机制：通过学习“去噪”，网络被迫发现数据中的统计规律和内在结构。例如，在图像数据中，学习到相邻像素高度相关，从而可以利用周围像素的信息来修复被破坏的像素。
• 与得分匹配的关系：去噪自编码器的训练与得分匹配（Score Matching） 密切相关。得分函数 $s(\mathbf{x}) = \nabla_{\mathbf{x}} \ln p(\mathbf{x})$ 是指向数据密度高区域的”箭头”。去噪自编码器学习的重构方向 $\mathbf{y}(\tilde{\mathbf{x}}) - \tilde{\mathbf{x}}$ 也指向数据流形，类似于得分向量。这个联系将在扩散模型章节中再次出现。

在去噪自编码器中，数据点被假定存在于数据空间中的一个低维流形上，并且被加性噪声破坏了。自编码器会学习将损坏的数据点映射回它们原来的值，因此自编码器为数据空间中的每个点学习了一个指向流形的向量

掩码自编码器 (Masked Autoencoder, MAE)

还记得第6篇的Transformer吗？ MAE 把 Transformer 用到了图像上——把图像切成小块（patch），就像把文本切成 token 一样，然后随机遮掉大部分块，让模型学会恢复它们。

掩码自编码器是去噪自编码器的一种特殊形式，特别适用于图像和基于 Transformer 的架构。

• 掩码操作：输入图像被分割成多个“块”。训练时，随机选择并“掩码”或丢弃其中一部分块（如 75%）。与 BERT 不同，这里不是用一个固定的“mask token”替换，而是直接省略这些块。
• 架构：通常与视觉 Transformer结合使用。
  • 编码器（Encoder）：接收未被掩码的块作为输入，计算它们的表示。
  • 解码器（Decoder）：需要重建整个图像（包括被掩码的块）。为了实现这一点，在编码器和解码器之间，需要将被掩码的块用一个* 固定的 mask token 向量*（并附加上位置编码）重新插入，以恢复原始序列长度。
• 训练目标：损失函数只计算在被掩码的块上的重构误差（如均方误差）。解码器被训练来预测这些缺失块的原始像素值。
• 优势：
  1. 计算效率：由于编码器只处理未被掩码的块（如 25%），大大减少了计算量。
  2. 强大的表示学习：通过预测图像中缺失的大片区域，编码器被迫学习到图像的全局语义和结构信息。
• 下游任务：训练完成后，解码器被丢弃。编码器（可能附加新的输出层）被用于图像分类、检测等下游任务。

掩蔽自编码器在训练阶段的架构。训练结束后，解码器被抛弃，编码器用于将图像映射到内部表示，以便在后续任务中使用

被掩蔽的图像在左侧（有80%的输入区块被掩蔽），重建的图像在中间，原始图像在右侧

变分自编码器 (VAE)

想象一下：普通自编码器是”有损压缩”——把图片压缩成一个固定的向量。VAE 更进一步：它不是压缩成一个固定的向量，而是压缩成一个概率分布（比如”均值是这里，方差是这么大”的高斯分布）。生成新图片时，你只需要从这个分布中随机采样一个点，然后解码就行了。

还记得第7篇的变分推断和ELBO吗？ VAE 的数学基础正是变分推断——用一个简单的分布 $q(\mathbf{z})$ 去近似复杂的后验分布 $p(\mathbf{z}|\mathbf{x})$，并最大化 ELBO。

变分自编码器（Variational Autoencoder, VAE）是一种概率生成模型，它通过变分推断来近似复杂的后验分布。

• 生成模型：VAE 定义了一个潜在变量模型——生成数据的方式是：先从简单的分布采样 $\mathbf{z}$，再通过解码器生成 $\mathbf{x}$： $$p(\mathbf{x}|\mathbf{w}) = \int p(\mathbf{x}|\mathbf{z}, \mathbf{w}) p(\mathbf{z}) d\mathbf{z}$$ 其中 $p(\mathbf{z})$ 是先验分布（通常为标准正态分布 $\mathcal{N}(\mathbf{0}, \mathbf{I})$），$p(\mathbf{x}|\mathbf{z}, \mathbf{w})$ 是由解码器神经网络定义的似然函数。
• 后验推断的困难：直接计算后验分布 $p(\mathbf{z}|\mathbf{x}, \mathbf{w})$ 是困难的，因为边缘似然 $p(\mathbf{x}|\mathbf{w})$ 无法解析计算（需要对所有可能的 $\mathbf{z}$ 积分）。

为了解决后验推断的困难，VAE 使用证据下界（ELBO, Evidence Lower Bound）来近似最大化对数似然。

• 优化目标：最大化 ELBO $\mathcal{L}(\mathbf{w})$，这等价于在近似后验 $q(\mathbf{z})$ 和真实后验 $p(\mathbf{z}|\mathbf{x}, \mathbf{w})$ 之间最小化 KL 散度（衡量两个分布的差异）。

摊销推理

为了高效地学习，VAE 使用一个神经网络（编码器）来近似所有数据点的后验分布。

• 编码器网络：引入一个参数化的编码器网络 $q(\mathbf{z}|\mathbf{x}, \mathbf{\phi})$，它将输入 $\mathbf{x}$ 映射到一个潜在变量 $\mathbf{z}$ 的分布（通常是高斯分布）。
• 参数化：一个典型的编码器输出一个对角高斯分布的均值 $\mathbf{\mu}(\mathbf{x}, \mathbf{\phi})$ 和方差 $\mathbf{\sigma}^2(\mathbf{x}, \mathbf{\phi})$： $$q(\mathbf{z}|\mathbf{x}, \mathbf{\phi}) = \prod_{j=1}^M \mathcal{N}(z_j | \mu_j(\mathbf{x}, \mathbf{\phi}), \sigma_j^2(\mathbf{x}, \mathbf{\phi}))$$
• 联合优化：现在，ELBO 同时依赖于解码器参数 $\mathbf{w}$ 和编码器参数 $\mathbf{\phi}$ 。目标是联合优化 $\mathcal{L}(\mathbf{w}, \mathbf{\phi})$。

重参数化技巧 (Reparameterization Trick)

用人话说：问题是这样的——神经网络需要通过”反向传播”来学习，但”采样”这个操作就像一堵墙，梯度传不过去。重参数化技巧的妙招是：把”随机采样”从参数计算中分离出来。就像说”我不直接从分布里抽样，而是先抽一个固定的随机数，再用公式算出采样结果”——这样梯度就能顺着公式传回去了。

直接对 ELBO 进行梯度下降是困难的，因为采样操作阻断了反向传播。

• 问题：ELBO 包含一个期望项，需要用蒙特卡洛方法（Monte Carlo，即随机采样近似）近似： $$\frac{1}{L} \sum_{l=1}^L \ln p(\mathbf{x}|\mathbf{z}^{(l)}, \mathbf{w}), \quad \mathbf{z}^{(l)} \sim q(\mathbf{z}|\mathbf{x}, \mathbf{\phi})$$ 但 $\mathbf{z}^{(l)}$ 是从 $q$ 中采样的，$q$ 依赖于 $\mathbf{\phi}$，因此梯度无法通过采样操作传递到编码器。
• 解决方案：重参数化技巧将随机性从参数依赖中分离出来。
  • 对于高斯分布，可以将采样表示为： $$\mathbf{z} = \mathbf{\mu} + \mathbf{\sigma} \odot \mathbf{\epsilon}, \quad \mathbf{\epsilon} \sim \mathcal{N}(\mathbf{0}, \mathbf{I})$$
  • 现在，$\mathbf{z}$ 显式地依赖于 $\mathbf{\mu}$ 和 $\mathbf{\sigma}$（即 $\mathbf{\phi}$ ），而 $\mathbf{\epsilon}$ 是一个与参数无关的独立噪声源。
  • 这使得梯度可以通过 $\mathbf{\mu}$ 和 $\mathbf{\sigma}$ 反向传播到编码器网络。

将潜变量z固定到特定采样值的过程阻止了误差信号向编码器网络的反向传播

重参数化技巧通过对一个独立随机变量e的样本进行计算而不是直接采样z，从而允许误差信号反向传播到编码器网络

结合以上所有部分，VAE 的完整 ELBO 目标函数可以写为：

第19章小结

一句话版本：自编码器学习”压缩-解压”数据，VAE 把它升级为概率版本——压缩成分布而非点，从而能生成新数据。

知识地图：

• 确定性自编码器：编码器 + 解码器，通过约束学习有意义的表示
  • 线性自编码器 ≈ PCA
  • 深度自编码器：真正的非线性降维
  • 稀疏自编码器：L1正则化鼓励稀疏
  • 去噪自编码器：从噪声中恢复原始数据（与扩散模型思想相通）
  • 掩码自编码器：Transformer + 大面积遮挡
• 变分自编码器（VAE）：编码成分布，用ELBO训练，重参数化技巧让梯度能传播
• 与GAN对比：VAE训练稳定但生成图像容易模糊，GAN训练困难但生成质量高

Chapter 20 扩散模型 (Diffusion Models)

想象一下：你给朋友打电话，信号一开始很清楚（原始图像）。然后有人在电话线上逐步加入越来越多的杂音（前向加噪），直到你完全听不清对方在说什么（变成纯噪声）。扩散模型做的事情就是：学会如何从一堆杂音中一步步还原出清晰的信号（反向去噪）。

你可能会问：”加噪声谁不会？去掉噪声才是难点吧？”没错！扩散模型的巧妙之处在于：虽然前向加噪是固定的、不需要学习的，但反向去噪的每一步都很小，小到神经网络能轻松学会。

扩散模型（Diffusion Model）是目前在图像生成等领域达到 SOTA（State-of-the-Art，最先进）效果的生成模型框架。其核心逻辑可概括为”前向加噪 -> 反向去噪”：

1. 前向过程（Forward Process，编码器）：将训练数据（如图像）通过多步加性高斯噪声（Gaussian Noise）逐步”污染”，最终使数据变成标准高斯分布的样本（完全不含原始数据信息）；
2. 反向过程（Reverse Process，解码器）：训练一个深度神经网络，学习逆转上述加噪过程——从标准高斯样本出发，逐步去噪，最终生成与训练数据分布一致的新样本。

与GAN和VAE的对比：扩散模型可看作一种”层次化VAE”（Hierarchical VAE）——前向加噪的分布是固定的（无需学习），仅需学习反向去噪的生成分布。相比 GAN，它避免了对抗训练的不稳定性，且训练简单、易并行；但生成样本时需多次通过解码器（通常需要数百到数千步），计算成本较高。

前向加噪过程：从原始图像 x 开始，经 T 步加噪后得到接近高斯分布的 z_T，反向过程则是从 z_T 逐步去噪回 x

前向编码器（Forward Encoder）

用人话说：前向编码器就是”加噪声的规则”。每一步，你往图片上撒一点高斯噪声（就像往照片上撒沙子）。撒一次还不太模糊，但撒几百次之后，照片就变成一片随机的沙粒——完全看不出原来是什么了。

前向编码器定义了”如何逐步给数据加噪”，整个过程是一个马尔可夫链（Markov Chain，即每一步只依赖前一步的结果，不依赖更早的历史），具体如下：

对于训练集中的一张原始图像 $x$，第一步加噪是将 $x$ 与独立高斯噪声混合，得到第一个含噪图像 $z_1$：

其中：

• $\epsilon_1 \sim \mathcal{N}(\epsilon_1 | 0, I)$：标准高斯噪声（均值0，单位协方差矩阵）；
• $\beta_1 \in (0,1)$：噪声方差参数（Noise Variance），控制第一步加噪的强度。$\beta$ 越小，加噪越弱，图像变化越小；
• 系数 $\sqrt{1-\beta_1}$ 和 $\sqrt{\beta_1}$ 的作用：保证 $z_1$ 的均值比 $x$ 更接近0，协方差比 $x$ 更接近单位矩阵 $I$ （为后续多步加噪最终收敛到标准高斯做铺垫）。

从概率分布角度，$z_1$ 给定 $x$ 的条件分布是高斯分布：

将单步加噪重复 $T$ 次，得到含噪序列 $z_1, z_2, ..., z_T$，每一步的加噪规则与第一步一致：

其中 $\epsilon_t \sim \mathcal{N}(\epsilon_t | 0, I)$，且每个 $\epsilon_t$ 都是独立的新噪声。

对应的条件分布为：

参数设置：$\beta_t$ 需人工设定（称为 noise schedule），通常遵循 $\beta_1 < \beta_2 < ... < \beta_T$（前期加噪弱，后期加噪强），确保 $T$ 足够大时 $z_T$ 接近标准高斯。

前向加噪过程可表示为概率图模型：

• 阴影节点 $x$：观测变量（原始图像，已知）；
• 空白节点 $z_1, ..., z_T$：潜变量（含噪图像，未知）；
• 前向分布 $q(z_t | z_{t-1})$：定义加噪方向（编码器，已知的）；
• 目标学习的反向分布 $p(z_{t-1} | z_t, w)$：定义去噪方向（解码器，$w$ 为网络参数，需要学习的）；
• 条件分布 $q(z_{t-1} | z_t, x)$：已知原始图像 $x$ 时，从 $z_t$ 反推 $z_{t-1}$ 的分布——这是训练目标推导的关键。

扩散模型的概率图模型：x 是已知的原始图像，z_1 到 z_T 是逐步加噪的潜变量

扩散核（$z_t$ 的边际分布）

用人话说：扩散核告诉你一个好消息——训练时你不需要真的一步一步加噪到第 $t$ 步，而是可以一步到位直接从原始图像 $x$ 生成第 $t$ 步的含噪图像 $z_t$。这大大加快了训练速度！

前向过程中，若想直接得到 $z_t$（无需计算中间的 $z_1,...,z_{t-1}$），可通过”边际分布”（Marginal Distribution）实现。$z_t$ 给定 $x$ 的条件分布（称为扩散核 Diffusion Kernel）是高斯分布：

其中 $\alpha_t$ 是 $\beta$ 的累积乘积（信号保留比例）：

训练意义：扩散核让你在训练时可以直接跳到任意步 $t$，无需运行完整的前向链，极大提升训练效率。

扩散核也可改写为加噪形式（这在后面推导损失函数时非常有用）：

注意：此处 $\epsilon_t$ 是”累计噪声”（从 $x$ 到 $z_t$ 的总噪声），而非单步加噪的 $\epsilon_\tau$。

极限情况：当加噪步数 $T \to \infty$ 时，$\alpha_T \to 0$，扩散核变为 $q(z_T | x) = \mathcal{N}(z_T | 0, I)$——$z_T$ 完全是标准高斯噪声，与原始图像 $x$ 毫无关系。这就是我们想要的：前向过程最终”抹掉”了所有原始信息。

条件分布（反向过程的”标准答案”）

用人话说：我们要训练一个神经网络来”去噪”，但它需要”标准答案”来学习。条件分布 $q(z_{t-1} | z_t, x)$ 就是这个标准答案——它告诉你”如果你知道原始图像 $x$ 是什么，那么从 $z_t$ 应该怎样恢复到 $z_{t-1}$”。

我们的目标是学习反向去噪（从 $z_t$ 到 $z_{t-1}$），但直接反转 $q(z_t | z_{t-1})$ 会得到 $q(z_{t-1} | z_t)$ ，该分布需要知道我们不知道的 $p(x)$（数据分布），所以无法计算。因此，我们考虑”已知 $x$ 时的反向条件分布” $q(z_{t-1} | z_t, x)$——好消息是，这个分布是简单的高斯分布！

该分布的意义：它为训练神经网络提供了”目标分布”——训练时让网络预测的反向分布 $p(z_{t-1} | z_t, w)$ 尽可能接近这个”标准答案” $q(z_{t-1} | z_t, x)$。

反向解码器（Reverse Decoder）

用人话说：反向解码器就是那个”去噪器”——一个神经网络，输入含噪图像 $z_t$ 和当前步数 $t$，输出去噪后的均值。它就是扩散模型需要训练的核心部分。

反向解码器的核心是”学习一个深度神经网络，近似 $q(z_{t-1} | z_t, x)$ 对应的反向去噪过程”，最终通过该网络从 $z_T$ （纯噪声）生成 $x$（清晰的数据样本）。

直接计算 $q(z_{t-1} | z_t)$ 不可行（需要对所有可能的 $x$ 积分），因此用神经网络建模反向分布 $p(z_{t-1} | z_t, w)$，形式为高斯分布：

其中：

• $\mu(z_t, w, t)$：由深度神经网络输出的均值（$w$ 为网络参数，$t$ 作为输入以适应不同步的噪声强度）；
• 方差设为 $\beta_t I$：参考前向加噪的方差，且当 $\beta_t$ 较小时，反向分布近似高斯，方差接近 $\beta_t I$。

关于网络架构：神经网络的输出维度需与输入（$z_t$）一致（图像数据中即图像尺寸）。常用的架构是 U-Net——一种具有跳跃连接（Skip Connection）的编码器-解码器结构，适合捕捉图像的局部和全局特征。近年来也有工作使用 Transformer 架构。

$\beta_t$ 的选择：为什么要”小步慢走”？

想象一下：如果你一次加很多噪声（$\beta_t$ 大），就像把照片一下子弄模糊——去噪时你很难猜出原来是什么。但如果你每次只加一点点噪声（$\beta_t$ 小），每一步的变化都很小，神经网络就很容易学会”把这一步的模糊去掉”。

建议设置 $\beta_t \ll 1$（每步加噪弱），原因：

1. 前向加噪中，$\beta_t$ 小则 $z_t$ 与 $z_{t-1}$ 差异小，反向去噪时”修正幅度”小，网络更容易学习；
2. 反向分布 $q(z_{t-1} | z_t)$ 会近似高斯：

• 上图：$\beta_t$ 大时，$q(z_{t-1} | z_t)$ 是多峰分布（复杂，网络难以建模）；
• 下图：$\beta_t$ 小时，$q(z_{t-1} | z_t)$ 接近高斯（简单，易建模）。

代价：需大量步数 $T$（通常数百到数千步）才能让 $z_T$ 接近标准高斯，导致生成样本时计算成本高。这就是扩散模型”训练快、生成慢”的根本原因。

反向过程的联合分布

整个反向去噪过程是一个马尔可夫链，联合分布为：

其中：

• $p(z_T) = \mathcal{N}(z_T | 0, I)$（与前向过程的$q(z_T)$一致）；
• $p(x | z_1, w)$：最终从$z_1$（弱噪声）生成$x$（无噪声）的分布，形式与$p(z_{t-1} | z_t, w)$类似（高斯分布）。

训练目标：证据下界（ELBO）

还记得VAE的ELBO吗？ 扩散模型用的是完全相同的思路——直接最大化对数似然太难了（需要对所有可能的噪声路径积分），所以我们最大化它的一个下界ELBO。

生成模型的理想训练目标是最大化数据的对数似然 $\ln p(x | w)$，但该似然需积分所有潜变量 $z_1,...,z_T$，涉及复杂的神经网络，无法直接计算。因此借鉴VAE的思路——最大化似然的下界（ELBO）。

对任意潜变量分布 $q(z)$，有：

其中 $\mathcal{L}(w)$ 是 ELBO，$KL(\cdot \| \cdot) \geq 0$。因此 $\ln p(x | w) \geq \mathcal{L}(w)$，最大化 $\mathcal{L}(w)$ 可间接最大化似然。

选择 $q(z) = q(z_1,...,z_T | x)$（前向过程的固定分布），代入ELBO并简化，最终分解为”重建项”和”一致性项”：