DDIM: Denosing Diffusion Implicit Models

一言以蔽之：DDPM生成（或者说采样）的速度太慢了，因此，作者提出了DDIM，DDIM的采样速度比DDPM快了50-100倍，而且生成的图像质量也比DDPM高。DDIM和DDPM的训练并没有改变，只是采样的时候，DDIM的采样速度更快。

极力推荐阅读

Take away

DDPM采样的速度慢是因为：

• 不能减小T，这里的T为采样时的迭代次数
• 因为严格遵循马尔可夫假设，所以采样时无法进行“跳步”，即每次都必须$x_{t}\rightarrow x_{t-1}$。“跳步”的意思是，在采样时，可以跳过一些中间的采样点，从而提高采样速度，比如$x_t \rightarrow x_{t-15}$

DDIM加速采样的方式就是通过去马尔科夫化，从而实现跳步。比如$x_k \rightarrow x_{s}$

其中，严格满足$s<k$。于是，我们就可以从时间序列$\{0,..., T\}$中随机取一个长度为$l$的升序子序列，通过上式迭代采样最终得到我们想要的$x_0$。