扩散模型总结#

如何获取噪声？#

首先引入分布的概念，我们假设真实图片的分布为$q(\mathbf{x}_0)$，$x_0$是一张从$q(\mathbf{x}_0)$采样得到的一张真实图片。

可以将分布理解成一个班级，有50个人，采样出来的$x_0$就是一个同学

加噪过程是一步步进行的，把每一步记为$t$，总共需要加噪$T$次。

我们通过Gaussian distribution来得到噪声，此处需要知道高斯分布由两个参数决定分别是，mean（均值）和variance(方差)，记为$\mu$和$\sigma^2$。 一个图片在第$t$步加噪来源于一个均值为$\mu_t=\sqrt{1-\beta_t}\mathbf{x_0}$，方差为$\sigma_t^2=\beta_t$的高斯分布, 可以等价表示为: 每次从一个标准正太分布中采样一个$\epsilon$，即$\epsilon \sim \mathcal {N}(0, I)$

第t步的加噪图像$\mathbf{X}_t$#

加噪第t步的图像表示为 $\mathbf{x}_t=\sqrt{1-\beta_t}\mathbf{x}_{t-1}+\sqrt{\beta_t}\epsilon$

注意，此处的$\beta_t$不是常亮，会随着t的变化而变化，但是遵循($\beta_1<\beta_2<\beta_3<\cdots<\beta_T<1$), 可以是线性，二项式，cos等等方式。

最终的加噪图像$\mathbf{X_T}$应该是纯噪声(pure noise)。

定义目标函数#

为了驱使神经网络在去噪过程中学习到均值，作者将加噪过程$q$与去噪过程$p_\theta$ 视为一个VAE(variational auto-encoder), 此处如果不知道VAE可以略过，只需要知道最后的Loss函数如何计算。（因为后续还涉及到KL散度，ELBO证据下限等一系列概率论知识，好奇的可以挨个探索。）

这部分我暂时没看懂

经过一系列条件后，可以得到一个”nice property”

其中，$\alpha_{t}=1-\beta_t$，$\bar{\alpha_t}=\prod_{s=1}^t\alpha_s$。 这个性质意味着

1. 可以从高斯分布中采样噪声，然后通过合适的缩放，使得$\mathbf{x_0}$直接变为$\mathbf{x_t}$，其中$\bar{\alpha_t}$可以由已知的$\beta_t$计算得到。
2. 可以将预测均值的网络转换成预测噪声的网络。

最终的目标函数定义如下： $\|\epsilon-\epsilon_\theta(\mathbf{x}_t,t)\|^2=\|\epsilon-\epsilon_\theta(\sqrt{\bar{\alpha}_t}\mathbf{x}_0+\sqrt{(1-\bar{\alpha}_t)}\epsilon,t)\|^2$