V
主页
【论文精读】DDIM使用“非马尔科夫”前向过程的原因:固定模型优化目标【附录A】
发布人
【论文精读】DDIM使用“非马尔科夫”前向过程的原因:固定模型优化目标【附录A】 论文:DENOISING DIFFUSION IMPLICIT MODELS(https://arxiv.org/abs/2010.02502) 1.优化目标:预测噪声 为了保持相同的模型优化目标,仅需要保持汇总步q(xt|x0)生成分布,中间步不一定要完全符合马尔科夫链 2.附录A:非马尔科夫过程也适用于高斯分布之外的情况
打开封面
下载高清视频
观看高清视频
视频下载器
【公式证明】DDIM:生成过程(采样过程)和统一变分推理目标【论文精读】【3.2节】【附录B】【定理1】
【论文精读】为什么用SDE(随机微分方程)来描述扩散过程 (3.1节,3.2节)
【论文精读】推导DDPM的去噪目标【附录C.2】
【公式推导】DDIM的公式(7)的由来:为什么设定这样的采样形式(DDIM最核心的采样设定)【非马尔科夫前向过程】【3.1节】【论文精读】
【公式证明】DDIM的非马尔科夫前向过程:证明保持汇总步的分布形式不变【附录B】【引理1】
【论文精读】DDIM控制参数设定:tao(控制样本生成速度)和sigma(控制生成图像的随机性)【实验设定】【附录D】
【论文精读】DDIM的定义及采样/生成过程:证明训练目标与DDPM保持一致【4.1】【4.2】【附录C.1】
【论文精读】扩散模型与VAE的区别和联系,扩散模型的定义和优化目标 Denoising Diffusion Probabilistic Models【DDPM】
【推导思路】DDIM的ODE形式【论文精读】
【论文精读】快速了解2类扩散模型核心设定:SMLD/NCSN和DDPM(2.1节和2.2节)【符号说明】
【论文精读】扩散模型的前向过程 Denoising Diffusion Probabilistic Models【DDPM】【2背景】
【论文精读】DENOISING DIFFUSION IMPLICIT MODELS【DDIM的背景介绍】
VAE的推广:分层变分自动编码器【HVAE】与马尔科夫变分自编码器【MHVAE】【优化目标ELBO的推广】
【公式推导】DDPM采样等价于VP对应的逆SDE的一种数值解法【论文精读】【附录E】【P21】
扩散模型DM的优化目标ELBO在高斯限制条件(加噪过程)下的最终形式变化思路讲解【白板推导】【去噪分布】】
【论文精读】变分扩散模型VDM的表示和优化思路【3个限制条件的深刻理解】
【论文精读】扩散模型由SDE形式进行采样的2个思路:ODE(概率流采样), 逆SDE(逆扩散采样)
【公式推导】命题1:DDIM的ODE形式与VE-SDE的ODE形式保持一致,都为公式(14)【附录B】
【公式推导】VE和VP的SDE形式由来:由条件分布推导出SDE形式(SMLD和DDPM)(3.4节,附录B)【论文精读】
研一研二必看!不愧是2024最好出论文的两个研究方向:Diffusion扩散模型+对比学习,源码复现+模型精讲+论文解读,迪哥带你轻松搞定论文创新点!
【算法解读】PC Sampling【论文精读】【附录G】
【论文精读】扩散模型的反向过程(Part01) Denoising Diffusion Probabilistic Models【DDPM】【2背景】
【论文精读】扩散模型的反向过程(Part02) Denoising Diffusion Probabilistic Models【DDPM】【3.2】
【公式证明】扩散模型中的reverse-time SDE是怎么推导得到的呢?
【公式推导】如何给扩散模型添加条件控制(学习条件分布),说明有无分类器的指导原则
【论文精读】Understanding Diffusion Models: A Unified Perspective 01【introduction】
【公式推导】变分扩散模型VDM的优化目标ELBO的拆解项含义详解【组成部分解释】
【思路讲解】论文标题解释“从统一视角来看扩散模型”3种不同视角下的等价优化目标【预测原图/预测噪声/预测梯度】
【公式推导】不同视角下,扩散模型DM优化目标ELBO的变化:设定1(预测原图x0)【论文精读】
【公式推导】如何从VE SDE和VP SDE中进行采样(逆扩散采样器)【论文精读】【附录D.3、附录E】
【公式推导】扩散模型中的去噪过程:如何由纯噪图逐步去噪变清晰,即从x(T)到x(T-1),推导去噪分布表达式【论文精读】
【附录C】如何选择加噪使用的噪声尺度:超参数(alpha,beta)噪声尺度的设定【论文精读】
【公式推导】证明:如何用噪声预测模型代替得分函数(基于分数角度score,扩散模型DM优化目标的设定3)【论文精读】【P16-17】
【例子说明】了解应用在扩散模型中的斯坦因分数函数(Stein’s score function),定义以及几何解释【图形分析】
【公式推导】扩散模型Diffusion Models的训练和推理,训练中的Unet到底在学习什么,完整核心逻辑梳理【优化目标/损失函数】【采样过程/去噪】
0先导片:2小时动手学习扩散模型(pytorch版)
【公式推导】Elucidating the Design Space of Diffusion-Based Generative Models【附录B.1】
【公式推导】从2个原因充分理解证据下界ELBO(如何推导)【Evidence Lower Bound】2
【公式推导】加噪过程:为什么只需给定时间步t和原图x0就可以直接生成噪图xt【公式详解】【论文精读】
【附伪代码】扩散模型DM的训练和推理的代码讲解【代码讲解】【python】