如今，扩散模型为一些有史以来最令人印象深刻的人工智能系统提供了支持。它们能够生成逼真的图像、制作视频、合成语音、设计蛋白质，其影响范围也早已超越了计算机视觉领域。
像Stable Diffusion、DALL·E以及许多现代的生成式系统，它们的起源都可以追溯到同一个问题：如何让一个模型在不会导致数学计算变得过于复杂的情况下，学会处理极其复杂的数据分布呢？
几十年来，这个问题一直是生成式建模领域最大的障碍之一。研究人员面临着一个两难的选择：那些易于训练和评估的模型往往过于简单，无法捕捉现实世界数据的复杂性；而那些表达能力更强的模型虽然能够表示复杂的数据分布，但却极难进行优化、采样或评估。尽管人们尝试了无数方法来缩小这一差距，但至今仍没有一种方法能够完全解决这个问题。
2015年，Jascha Sohl-Dickstein和他的同事们提出了一种截然不同的思考方式。他们没有试图直接学习复杂的数据分布，而是提出了一个看似简单的问题：如果我们先通过逐渐添加噪声来“破坏”这些数据，然后再学会如何逆转这一过程，会怎么样呢？
这个想法将原本看似无解的学习问题转化为了一系列简单、易于处理的预测任务。
下面的信息图直观地展示了扩散模型背后的核心理念，说明了这一从热力学中借鉴而来的概念是如何成为现代生成式人工智能基础的。
在当时，与深度学习领域的其他突破相比，这篇论文并没有引起太多关注。但回顾起来，它确实代表了生成式人工智能发展史上的一个重要转折点。这篇论文首次提出了实用的扩散概率模型框架，为几年后彻底改变人工智能发展的“扩散革命”奠定了数学基础。
在这篇文章中，我们将逐步探讨这篇论文的内容：从提出这一想法的背景开始，到扩散算法的具体实现，再到证明其潜力的实验结果。我们会了解到，为什么这项最初被忽视的研究最终会成为现代人工智能领域中最具影响力的生成式模型系列的起点。
论文概述
《利用非平衡热力学进行深度无监督学习》（2015年）这篇论文首次提出了实用的扩散概率模型框架，为如今在生成式人工智能领域占据主导地位的扩散模型奠定了基础。
本文并未直接尝试学习复杂的数据分布规律，而是提出了一种两阶段处理方法：首先通过正向扩散过程将数据逐步转化为简单的噪声信号，然后通过反向扩散过程从这些噪声中重建出原始数据。
作者借鉴了非平衡统计物理学的理论，证明了这种方法能够有效解决生成模型表达能力与计算效率之间的长期矛盾。该框架使得在同一个概率模型中实现高效训练、精确采样、似然值评估以及后验推断成为可能。
为了验证这一方法的有效性，本文在合成数据集MNIST、CIFAR-10，以及自然图像基准测试中取得了优异的结果；同时，该方法在图像去噪和修复等实际应用中也展现出了强大的能力。
尽管这项开创性的工作最初并未受到足够的重视，但它为后续的许多重大进展奠定了数学基础，例如DDPM模型和基于分数的扩散模型等。因此，这篇论文堪称现代生成式人工智能发展史上的重要里程碑。
下面这张信息图概括了本文的主要内容，包括研究思路、方法论、关键发现以及深远影响。
目录：
先决条件
本综述假定读者已经具备对概率论、线性代数以及深度学习基础的基本理解。如果读者还熟悉马尔可夫链、VAE或GAN这样的摘要
到2015年时,生成模型领域面临着一个普遍存在的矛盾:这些模型要么具有足够的表达能力来捕捉复杂的现实世界数据,要么结构足够简单,从而便于高效地进行训练和评估,但很少有模型能同时满足这两个要求。本文旨在通过引入一种受开源参考实现代码。 本文首先指出了概率机器学习领域中最古老的问题之一:即高斯分布或蒙特卡洛方法，这使得它们难以在大规模应用中得到有效使用。 作者们指出，已经有许多技术被提出来试图缩小这一差距，包括变分推断、对比散度法、分数匹配算法、伪似然函数、信念传播机制以及其他几种近似计算方法。 尽管这些方法在一定程度上改善了现状，但它们并未从根本上消除这种权衡关系。正是这个未解决的问题，成为了本文后续部分介绍的“扩散框架”诞生的动机所在。 下图信息图总结了促使本文产生的核心矛盾，以及在“扩散概率模型”出现之前，研究人员探索过的各种主要方法。 在阐述了灵活性与可行性之间的长期矛盾之后，本文提出了相应的解决方案：扩散概率模型。这一模型的目标十分雄心勃勃——它旨在构建一种既具有强大表达能力、又能支持精确采样、还能实现高效后验计算，同时仍能使概率评估过程保持可行性的生成模型。 其关键思路在于将数据视为一个马尔可夫扩散过程。模型并不直接学习复杂的数据分布，而是从某个简单的初始分布（例如高斯分布）开始，通过一系列逐步的扩散步骤逐渐将其转化为目标数据分布。这种马尔可夫链本身就构成了概率模型，因为每一个状态转换对应的概率都是易于计算的，因此整个过程在理论上是可以被完全分析处理的。 模型的训练过程也因此变得更为简单。它无需一次性学习整个复杂的分布结构，而只需掌握连续扩散步骤之间的微小变化即可。这些局部变换虽然计算起来较为容易，但仍然足以用来近似表示几乎任何类型的光滑数据分布。 为了证明这一框架的通用性，研究人员在多种不同的数据集上对其进行了测试，这些数据集涵盖了从简单的合成数据、二进制序列到手写数字（MNIST数据集）以及自然图像（如CIFAR-10数据集中的图片、树皮纹理和枯叶等）。这些广泛的测试结果表明，同一个扩散框架确实可以应用于截然不同的数据领域中。 下图说明了扩散概率模型背后的核心原理，展示了数据是如何逐渐转化为噪声的，而之后通过逆向过程才能将这些噪声重新还原为原始数据。 在详细介绍这一算法之前，本文首先将其放在生成建模的更广阔背景下进行探讨。文章指出，许多最新的方法，尤其是变分自编码器（VAEs），已经通过同时训练生成模型和推理网络取得了显著进展。 尽管该算法的训练目标与这些方法中使用的变分下界有一定的相似之处，但其根本理念却是截然不同的。 与基于变分贝叶斯推理的方法不同，所提出的框架植根于统计物理学。它从非平衡热力学、准静态过程以及退火重要性采样中汲取了灵感。 这种视角带来了几个实际优势：它能够自然地支持后验计算，通过结合不同的概率分布来实现这一目标；由于正向过程和反向过程具有相同的函数形式，因此设计起来更为简单；该框架可以适用于数千次扩散步骤；同时，它还为整个扩散过程中的熵提供了理论上的界限。 作者还将扩散模型与当时许多领先的生成方法进行了比较，这些方法包括Wake-Sleep、生成随机网络（GSNs）、神经自回归分布估计器（NADEs）、生成对抗网络（GANs）、可逆生成模型、贝叶斯网络反演方法以及高斯尺度混合模型等。 作者并不认为扩散模型可以取代这些方法，而是认为它们提供了通往同一目标的不同路径：在保持推理和采样过程易于处理的前提下，学习具有表达能力的概率分布。后续的实验部分直接将扩散模型与其中几种方法进行了对比，尤其是GANs和MCGSMs。 最后，本文指出了那些为这一框架提供理论基础的物理概念。诸如“退火重要性采样”（AIS）、朗之万动力学、福克-普朗克方程以及柯尔莫哥洛夫前向/后向方程等概念，为将生成过程视为扩散过程的逆过程这一观点提供了理论依据。 机器学习与统计物理学之间的这种联系后来成为了扩散模型的核心特征之一。 在明确了研究动机之后，本文开始探讨该方法的核心部分——扩散算法本身。其基本思想在于将生成建模视为学习一个经过精心设计的扩散过程的逆过程。 这种方法并没有直接对数据分布进行建模，而是首先定义了一个前向扩散过程，该过程能够逐步将复杂的数据转化为简单、易于处理的分布形式，通常是高斯噪声。随后，系统会学习如何逆转这一过程，从而一步步地从噪声中重建出真实的数据。 本节的后续内容将逐一详细阐述这一框架的各个组成部分。首先会定义前向扩散过程，然后解释如何学习作为生成模型的逆过程；接着作者还会说明这种建模方法如何实现高效的似然值评估，如何推导出逆过程的熵界限，并证明所学到的模型可以与其他概率分布结合使用，从而完成后验推断、图像去噪和修复等任务。 所有这些组成部分共同构成了扩散概率模型的完整数学基础。 该算法采用了一种与众不同的设计思路：它并非先学习如何生成数据，而是首先学习如何破坏数据。从原始的数据分布开始，每一步都会添加少量噪声，直到数据的复杂结构逐渐消失，最终转化为高斯噪声这样的简单分布。由于每次添加的噪声量都很小，并且整个过程遵循马尔可夫过程，因此这种转换过程易于分析，也为后续学习如何逆转这一过程奠定了基础。 一个关键的设计原则是：每一次扩散操作只会对数据产生微小的影响。单独来看，这些变化几乎无法被察觉；但经过多次这样的操作后，累积效应就会完全消除原始数据的结构。由于每一个状态转换仅依赖于前一个状态——这正是马尔可夫链的本质特征——因此整个前向过程在数学上显得非常简单且易于处理。 作者们对两种类型的扩散过程进行了实验。对于连续数据，例如图像，他们使用了高斯扩散算法，这种算法会逐渐将数据转化为标准的高斯噪声；而对于离散数据，比如二进制序列，他们则采用了二项式扩散算法，在这种算法中，各个比特会被随机地翻转，直到整个序列最终变成独立的随机噪声。 这表明，相同的扩散框架能够自然地处理连续数据分布和离散数据分布。 下图说明了前向扩散过程是如何通过一系列渐进的、固定的加噪步骤，将结构化数据逐渐转化为纯噪声的。 如果前向过程是通过将数据转化为噪声来逐渐破坏其结构，那么反向过程则恰恰相反：它能够从这些噪声中重新构建出有意义的数据。 这种反向过程实际上就是生成模型。该模型从一个简单的噪声分布开始，每一步都去除少量噪声，直到最终恢复出目标数据分布中的真实样本。 一个关键的观察结果是：当前向扩散步骤足够小时，反向过程的数学形式与前向过程是完全相同的。这种对称性大大简化了学习过程。模型无需解决完全不同的问题，而只需估计描述每次反向转换的参数即可。对于连续数据来说，这些参数就是高斯分布的均值和协方差；而对于离散数据而言，它们对应于二项分布中的比特翻转概率。 作者们使用多层感知器来实现这些反向转换功能，不过他们也指出，任何合适的回归或函数逼近方法都可以被使用。因此，计算成本会随着这些预测函数的复杂程度以及扩散步骤数量的增加而增加，但这种机制使得反向过程既便于训练，又足以用来模拟复杂的数据分布。 下图说明了反向扩散过程是如何逐步去除噪声、从而从纯噪声中重新构建出结构化数据的。 学会生成真实的数据仅仅只是挑战的一半。一个生成模型还应该能够告诉你，这种数据出现的可能性有多大。 对于扩散模型而言，这一问题其实异常棘手，因为要计算出精确的概率，就必须考虑所有可能的扩散路径。 本文并没有直接面对这一庞大的计算任务，而是借鉴了统计物理学中的一些巧妙方法，利用退火重要性采样和Jarzynski不等式，将这个难以解决的问题转化为一个可以高效估算的问题。 其核心思想在于：将逐渐破坏数据的前向扩散轨迹与能够恢复数据的反向扩散轨迹进行对比。通过对前向过程产生的各种轨迹进行平均处理，模型便能够在无需逐一计算所有可能路径的情况下，高效地估算出原始数据所对应的概率。这样一来，原本难以处理的计算问题就变成了一个可以在计算上被有效解决的问题。 当扩散步长非常小时，这一方法会变得更加简洁高效。在这种极限情况下，前向与反向扩散轨迹几乎完全相同。在准静态条件下，仅仅利用前向扩散过程产生的一个样本，就可以精确计算出概率值，这不仅为实际估算提供了有效方法，也体现了扩散模型与统计物理学原理之间的紧密联系。 一旦定义好了前向与反向扩散过程，接下来的挑战就是确定反向过程的参数。其目标非常明确：在生成模型框架下，使训练数据的可能性最大化。然而，由于精确计算这种可能性仍然需要考虑所有可能的扩散路径，因此这一任务依然十分困难。 为了解决这个问题，作者利用Jensen不等式推导出了一个易于处理的、关于对数可能性的下界，这与VAE模型中使用的变分优化方法类似。模型并不直接优化真实的可能性值，而是优化这个下界，而这个下界可以通过KL散度和熵的概念来解析计算。随着前向与反向扩散过程越来越接近，这个下界也会逐渐趋近于真实的可能性值，在理想的准静态极限情况下
或许训练过程中最巧妙的地方在于，它简化了学习任务的具体流程。模型并不需要一次性学习整个高维概率分布，而只需在每次扩散步骤中学习反向转换过程中的相关参数即可。 在实际应用中，这种处理方式将生成模型简化为一系列普通的回归问题：对于连续数据而言，这些问题涉及预测高斯转换的均值和协方差；而对于二进制数据，则是计算比特翻转的概率。 这种分解方法将原本难以处理的密度估计问题转化为一系列较为简单的预测任务，从而使扩散模型既具有可扩展性，也便于训练。 下图说明了训练目标背后的原理，展示了模型是如何通过逐步学习逆向扩散过程来最大化对数似然值的可行下界的。 论文指出，在正向扩散过程中添加噪声的速度与扩散过程本身同样重要。 如果过早地引入过多噪声，模型在学会有意义的逆向转换之前就会丢失有用信息；而如果添加的噪声太少，则扩散过程会变得冗长且效率低下。 因此，找到合适的扩散速率安排对于模型的性能至关重要。 对于高斯扩散模型而言，扩散率被视为可学习的参数。模型在训练过程中会优化噪声添加的节奏，同时故意将第一步的扩散幅度设置得较小，以减少过拟合现象。 为确保这种优化过程的稳定性，作者采用了变分自编码器中使用的“固定噪声”技术——即在计算梯度时保持采样到的噪声值不变。这样就可以通过基于梯度的优化方法高效地确定扩散速率。 对于二项式扩散模型来说，情况略有不同。由于数据是离散的而非连续的，因此高斯扩散模型所采用的优化策略不再适用。论文采用了一个简单的规则：每一步都会消除剩余信号中相同比例的部分。这样，信息会以平滑、渐进的方式逐渐丢失，使数据能够自然地融入噪声中，而不会出现突变。 扩散概率模型最实际的优势之一在于它们使得后验推理变得极为简单。许多现实世界中的任务，比如图像去噪、修复或推断缺失值，都需要将学习得到的数据分布与额外的信息或约束条件结合起来进行处理。 在许多现有的生成模型中，执行这种乘法运算要么非常困难，要么会耗费大量的计算资源。而这项研究表明，扩散模型能够规避这一限制。 其核心思想其实很简单：并非要在生成过程完全结束后才将各种分布信息结合起来，而是可以在整个反向扩散过程中不断融入这些额外信息。在每一个扩散步骤中，模型都会利用另一个分布或约束条件来微调自己的预测结果。 由于每一次反向转换都相当于是一次小的更新，因此这些修改能够自然地融入生成流程之中，而不会从根本上改变算法本身。这样一来，让模型基于已知信息进行学习，就会比许多早期的生成框架更加高效。 这种能力不仅仅是一种理论上的便利性——它使得同一个扩散模型能够解决各种实际的推理任务，比如修复损坏的图像或填补缺失的区域，因为人们只需利用现有的观测数据来引导反向扩散过程即可。后续实验也证明了，该框架确实可以利用这一机制来实现去噪和图像修复功能。 下图说明了扩散模型是如何在反向过程中融入已知信息的，正是这种机制使得它们能够通过条件生成来完成图像去噪和修复等任务。 为了融入外部信息，作者对反向扩散过程进行了改进。他们没有仅仅依赖模型学习得到的分布结果，而是让每一个中间分布都乘以一个相应的条件函数。这样一来，就能生成一个新的分布序列，这个序列在整个反向扩散过程中保持一致性，同时也能满足所需的约束条件。 从概念上来说，这意味着模型并不需要等到最后的生成步骤才应用已知信息，而是在样本从噪声逐渐转化为数据的过程中，不断引导其发展方向，从而使条件信息能够影响生成的每一个阶段。 正是这种精妙的设计机制，使得扩散模型后来在引导式图像生成以及其他条件生成任务中取得了如此显著的效果。 仅仅更新中间分布是不够的，反向扩散过程也必须随之做出相应的调整。否则，模型生成的样本将会与它试图学习的分布不符。 在本文中描述的大多数实验中，条件函数在整个逆向过程中始终保持不变。文章还介绍了一种另一种方案，在这种方案中，随着扩散过程逐渐趋近于初始噪声分布，条件作用会逐渐减弱。 这种第二种方法的一个优点是它能够保持初始噪声分布不变，因此在进行引导生成之前，采样初始的含噪状态同样十分方便。 虽然这一设计选择看似只是一个小细节，但实际上它体现了扩散模型中的一个重要原则：条件作用应该逐步引导生成过程，而不是强行推动其发生。 通过在逆向过程中逐渐引入约束条件，该模型既能够保持稳定性，也能够保证样本质量，同时仍然便于进行初始化和采样操作。 还有一个问题尚未得到解答：当模型逐渐从噪声中重建数据时，还会留下多少不确定性呢？ 由于正向扩散过程是完全已知的，因此我们可以为每一个逆向扩散步骤的熵设定上下限。这些界限同样适用于该模型的对数似然值，从而为我们提供了一种理论工具，用于理解在逆向过程进行的过程中，不确定性是如何逐渐减少的。 这一结果的一个重要优点在于，这些熵的界限仅取决于正向扩散过程，而这一过程在设计时就已经被明确规定了。因此，我们可以通过分析方法来计算这些界限，而不需要使用任何额外的近似方法或复杂的估算程序。 虽然这一部分内容主要是理论性的，但它为扩散概率模型奠定了更加坚实的基础。除了提供了一种有效的生成算法之外，这一框架还为我们提供了关于逆向过程行为的数学保证，进一步凸显了它与概率建模及统计物理学之间的紧密联系。 下图直观地展示了整个扩散模型流程，涵盖了第2节中介绍的正向过程、逆向过程、网络架构、训练循环以及采样步骤。 在建立了理论基础之后，本文开始将讨论转向实践。现在真正需要验证的是：扩散概率模型是否能够在数学示例之外，学习到具有实际意义的分布规律。 <为了回答这个问题，该框架在多种类型的数据集上进行了测试，这些数据集的范围从二进制序列到自然图像不等。实验结果不仅证明了该框架能够生成新的样本，还表明同样的扩散过程也可以用于解决诸如图像修复之类的实际问题，从而进一步凸显了该框架在同一个框架内同时处理无条件生成任务和条件推理任务的能力。引言
1.1 扩散概率模型
1.2 与其他方法的关系
2. 算法
2.1 前向过程
2.2 反向过程
2.3 模型概率
2.4 训练过程
2.4.1 设置扩散率
2.5 相乘分布与后验概率的计算
2.5.1 修改后的边缘分布
2.5.2 修改后的扩散步骤
2.5.3 应用条件化函数
2.5.4 选择条件化函数
2.6 逆向过程的熵
3. 实验
3.1 简单示例问题
3.1.1 瑞士卷积数据集
3.1.2 二进制心跳分布
第二个示例实验将研究对象从连续数据转变为离散的二进制序列，从而证明扩散框架并不局限于高斯分布类型的数据。
该数据集由长度为20的序列组成：其中每五个位置会出现1，其余位置均为0。为了研究逆向扩散过程，作者使用多层感知器来预测在每个扩散步骤中每个位发生翻转的概率。
这个实验凸显了该框架的灵活性。与连续扩散模型不同，该模型并非用于预测高斯分布的均值和方差，而是学习伯努利转移概率，从而说明同样的扩散原理完全可以应用于离散数据。
实验结果几乎完美：训练得到的模型所计算出的对数似然值与真实的数据分布非常接近，这说明该模型成功捕捉到了这些二进制序列所具有的简单周期性结构。
尽管这是一个合成基准测试，但它证明了扩散概率模型能够使用相同的框架来准确描述连续型及离散型概率分布。
3.2 图像处理
在完成了前面的示例实验之后，本文转向了一个难度更高的挑战：自然图像的处理。作者利用多个图像数据集对高斯扩散概率模型进行了训练，使这些模型能够逆转逐渐增加的噪声过程，从而从纯粹的高斯噪声中还原出有意义的图像。
这标志着首次真正检验该框架是否能够处理现实世界视觉数据的复杂性与丰富结构。
为了应对图像数据的复杂性，所有与图像相关的实验都采用了相同的多尺度卷积架构。作者没有为每个数据集单独设计模型，而是使用了一种能够捕捉多种空间尺度图像特征的统一架构。这种一致的设计方式证明了扩散框架具有很强的通用性，能够在不同的图像领域中发挥作用，而无需进行重大的架构调整。
借助这种统一的架构，本文在多个图像基准测试上对模型进行了评估，这些测试包括MNIST、CIFAR-10、枯叶图像以及树皮纹理等，以此来检验该模型生成、恢复和处理日益复杂视觉数据的能力。
3.2.1 数据集
为了验证所提出的框架在现实世界的图像生成任务中的表现，作者选择了四个难度不同的数据集进行实验，这些数据集的范围从手写数字到自然纹理不等。这些数据集共同证明了扩散概率模型的多功能性以及它们在不同类型视觉数据上的泛化能力。
1. MNIST
作者首先使用MNIST手写数字数据集对模型进行了训练，这样就可以与之前的生成模型进行直接比较了。
由于早期的研究通常采用Parzen窗口评估方法来计算对数似然值，因此这些研究也采用了相同的评估程序，以确保结果能够进行公平比较。
实验结果表明，扩散模型所取得的性能与当时最先进的方法相当，同时这种模型还提供了一种基于概率原理的训练目标。
2. CIFAR-10数据集
随后，该框架在难度更高的CIFAR-10数据集上进行了测试。尽管自然图像的复杂性更高，但经过训练的扩散模型依然能够生成逼真的样本，这证明了这种方法的应用范围远不止于简单的手写数字。
3. Dead Leaves数据集
Dead Leaves数据集为评估这一框架提供了另一个有趣的测试基准。虽然这些图像是人工生成的，但它们仍然具备自然图像的许多统计特性，比如遮挡现象以及物体在不同尺度上的呈现方式。
在这个测试中，扩散模型展现出了顶尖的对数似然计算能力，其性能超过了之前的各种方法，并且能够准确还原数据集中的复杂空间结构。
4. 树皮纹理图像
最后，作者们使用树皮纹理图像对这一框架进行了训练，以此来展示它的另一个实际应用能力：条件生成。通过将逆向扩散过程与图像中已知的像素信息相结合，该模型能够成功填补图像中的缺失区域，从而证明了扩散模型在无条件采样之外，也完全支持有条件的数据生成功能。
下图直观地总结了本文的实验结果，展示了扩散概率模型在各种数据集上的表现。
4. 结论
本文指出，扩散概率模型成功解决了生成建模领域中的一个核心难题：如何在保持强大的表达能力的同时确保计算过程的可行性。
与依赖单一复杂概率分布的方法不同，该框架通过学习逆向马尔可夫扩散过程来逐步将数据转化为噪声。由于这一过程被分解成了许多小步骤，因此每个逆向转换都变得容易计算，从而使整个学习过程更加可控。
无论是在合成数据集还是真实世界的数据集中，这一核心算法都能表现出优异的性能，且无需对框架本身进行任何重大修改。这种一致性说明，扩散概率模型提供了一种通用的密度估计方法，而并非针对某一特定领域量身定制的解决方案。
或许这篇论文最重要的贡献在于它证明了：生成模型是可以被有效训练的，能够进行精确采样，评估效率也很高，并且非常适合用于条件推理。虽然在这项早期研究中生成的图像与当今的扩散模型相比还相当简单，但该论文为后续的发展奠定了数学和概念基础，包括DDPM和基于分数的扩散模型等后续技术都是建立在这些基础之上的。
下面的信息图总结了这篇论文的持久性贡献，并展示了它的核心思想是如何成为现代扩散模型发展基础的。
最后，为了更好地理解这篇论文的意义，下面的时间线展示了那些将它最初的扩散框架发展成为如今推动现代人工智能发展的强大生成模型的关键里程碑。
