2680 words

13 minutes

vae

2026-04-10

information age

conditional-distribution

/

Bayesian

0

思路#

我认为的vae思路
其实是因果关系：我们认为现实是果，我们想找因，找到这个因我们再弄清楚这个因是怎么产出果的就能随心所欲的创造出果了。

这里其实我们是在做推断，我们永远没有办法获得真实的，得到了我们也不知道怎么用，我们用来参数化这个推断模型，因为左侧是由右侧得到的，右侧的分子是参数化的生成模型（也就是 Decoder）乘以先验（高斯分布）可算，分母是这个分子对 dz 的积分，自然也受到的影响，不可算。

总结一下，我们目前有如下困难：

我们想要获得真实的后验，并且还得学会怎么用这个后验，所以：我们首先引入隐变量，并使用来参数化推断模型。
由于我们没有办法将分子对进行积分，所以我们其实也没有办法得到参数化的左侧。

对于困难 1#

一切的源头都是对一个含有隐变量的分布进行参数估计。在这里，可观察变量是，隐变量是，待估计参数是。我们会用最大似然估计（MLE）来做这件事，但是由于有隐变量，所以我们会使用EM算法。EM 算法本质还是 MLE，只不过会在每次迭代中交替进行期望（E）步和最大化（M）步，以逐步优化对数似然的下界。

ELBO#

ELBO 的出现，是为了解决无法求得，而我们的目的是使得更大，所以转换思路，我们如果可以知道它的某种下界，我们就不断的提升下界即可。于是我们引入证据下界。

法 引 入 高 斯 分 布 ， 用 边 缘 分 布 公 式 变 换 一 下 ， 乘 符 合 期 望 公 式 ， 被 积 函 数 乘 以 概 率 密 度 函 数 ， 可 以 算 任 何 函 数 的 期 望

法 由 于 乘 法 公 式 边 缘 分 布 没 法 儿 算 ， 所 以 才 有 以 下 操 作 ， 是 有 原 因 的

右边就定义为ELBO，证据下界。

一般都会将联合概率写成条件概率的形式，因为条件概率是可算的:

第一项就是重构损失，第二项就是先验正则（控制不能离先验分布太远）

关键恒等式#

有一个非常重要的等式，把三者连在一起：

由于KL散度总是非负的，所以这立刻揭示了为什么ELBO是下界，同时揭示了下界的松紧是由KL散度决定的。当时，等号成立。

对于困难 2#

我们又弄了一个参数化的，来逼近这个不可算的参数化的左侧，这个就是 Encoder。

于是，我们的目标就是最小化 KL 散度，即让尽可能接近，如果吧 phi 函数看作自变量函数，那这个 KL 散度就是关于他的一个泛函。于是我们现在正是在求一个泛函极值问题，所以叫他变分推断，也就是变分推断的由来，也是我们习惯把证据下界 ELBO 称为变分下界的原因。

变分是跟泛函相关的概念，指的是自变量函数的微小变化时，泛函值如何响应。例如变分法所关心的就是泛函极值问题，即找到最优的函数来让泛函取到最优值。

zCNhvQ

具体如何优化的？#

在 ELBO 中：在 ELBO 中：和

计算梯度的时候也是分别对两个参数计算上述两个式子的梯度

重参数技巧，因为采样的动作是不可求梯度的，使得期望可以反向传播：

实际上就是输出两个参数，然后再使用进行高斯噪声的缩放。 Encoder 实际上学的是均值 —数据中心和方差 —不确定性。

高斯分布的构造：
If ，then

优化 ELBO时到底在做什么？#

同时优化和：我们要最大化（或者说最小化）。简单说，就是在优化生成参数的同时，用推断参数去逼近真实的隐变量的分布。
下界松紧性（tightness）：随着的优化，会越来越接近真实后验，变小，下界（ELBO）会更加紧致，也就是会更接近真实的 NLL。
EM 视角：E 步如果可行，就是直接用当前下的真实后验做推断，M 步最大化期望完全数据对数似然。而在变分 EM 里，我们用近似 E 步的真实后验，然后用 ELBO 进行联合优化。

为什么可以把目标定为优化 ELBO#

上面我们推导了，所以我们实际上是在最大化似然的下界。实际上因为又叫证据，所以 ELBO 叫作证据下界。

那我们直接丢弃后面那个 KL 散度的计算是合理的么？是合理的，合理性本质是由 EM 算法保证的。因为我们最大化 ELBO 是在交替迭代的做这两件事：

估计隐变量分布或者是在做变分（式的）推断，因为我们的手段就是用来逼近，是在优化编码器，因为此时要看成：是固定的，我们优化的参数是phi(实际上训练vae不是，而是通过损失的平衡性自适应地调整)。因此，是不变的，所以最大化ELBO就等价于最小化KL散度。此时我们对ELBO的优化只涉及到优化，所以本质上是给找了一个更近的下界（这个下界也是的函数，所以我们找了一个更好的函数，正所谓变分）
计算似然损失对隐变量的期望，然后再固定，优化，计算最大似然。其中计算似然损失对隐变量的期望和第一件事合起来就对应EM算法的E步（Expectation），对应ELBO中的；而对的优化（即ELBO）则对应EM算法中的M步（Maximum），可以分成两部分，一部分是作为重建项的条件似然，一部分是正则项，惩罚编码器拟合的后验偏离我们假设先验（实际上和无关，被假设为标准高斯）的程度。此时，是固定的、即编码器可以看成是固定的，于是我们的优化过程可以看成是在所找到的下界函数上找最大值。

为什么用高斯分布来引入？#

因为是连续的，实际操作起来是可采样的 6BhYuA

与复对数似然（NLL）的精确关系#

由于 KL 散度，可以看出 NLL 的上界为：

Vae的一些问题#

后验坍塌（posterior collapse）#

对于我们的目标函数，是由两项组成的：重建项+正则项

重建：期望能够提供足够的信息，使得解码器能精准恢复。它驱动携带尽可能多的关于的特征。
正则：期望后验分布接近先验 p(z)（通常是标准正态分布）。它起到正则化作用，防止过拟合，但代价是可能会抹除 z 中携带的个性化信息 当解码器太强的时候，此时正则项趋近于 0.模型达到了一种虚假/消极的平衡。
自回归解码器的干预：如果你的解码器是一个非常强大的模型（例如 PixelCNN 或强力的 RNN/Transformer），它具有极强的自回归（Autoregressive）能力。即在预测当前像素或单词时，仅靠 x 的历史信息就能完成得很好。
逻辑上的“捷径”：对于强解码器而言，去学习如何解析潜变量 z 是有成本的。如果解码器发现不需要 z 也能把重建项做得很大，那么优化器为了最小化总损失，会倾向于让 KL 项直接归零。
编码器失效：此时编码器被“抛弃”了。无论输入什么 x，编码器都只输出先验分布以满足 KL 项的最小化。

解决方案#

策略	逻辑原理
KL Annealing	在训练初期给项设置极小的权重，强迫编码器先学会提取信息。
Free Bits / KL Budget	给项设置一个阈值，只要降到一定程度就不再优化它，保留基本的信息容量。
削弱解码器	使用非自回归解码器，强迫模型必须依赖才能完成重建。
离散向量量化 (VQ-VAE)	通过将映射到离散码本，彻底改变后验的形式，从根源上避免消失。

单流形的数据假设#

比如在 mnist 任务上，假如在 z 空间对 0 到 1 进行插值，会发生奇怪的过渡数字，这个 ugly 的，因为这样的生成结果实际上对我们是没有用的。而发生这个的原因根本上是因为 模型假设 latent 是连通的，但真实数据不是。

1
# encoder: x -> (mu, logvar)
2
# decoder: z -> x_hat
3
def interpolate(z1, z2, steps=10):
4
    ts = torch.linspace(0, 1, steps)
5
    zs = [(1 - t) * z1 + t * z2 for t in ts]
6
    zs = torch.stack(zs, dim=0)
7
    return zs
8
x1, _ = dataset[0]   # e.g. digit 0
9
x2, _ = dataset[1]   # e.g. digit 1
10

11
x1 = x1.unsqueeze(0).to(device)
12
x2 = x2.unsqueeze(0).to(device)
13

14
mu1, _ = encoder(x1)
15
mu2, _ = encoder(x2)
16

17
z1 = mu1.squeeze(0)
18
z2 = mu2.squeeze(0)
19
# 插值生成
20
zs = interpolate(z1, z2, steps=10)
21
with torch.no_grad():
22
    recon = decoder(zs)