从统计力学到深度学习：能量模型原理、训练与实战

1. 从统计力学到机器学习能量模型的前世今生做概率模型的人迟早会遇到 Energy Based Model 这个名字。我第一次认真研究 EBM其实是带着一个挺朴素的问题为什么物理学家研究气体分子运动的那套数学会被原封不动搬到机器学习里来后来才明白这两件事本质上都在回答同一个问题——给定一堆可能的配置每个配置出现的概率到底是多少在统计力学里一个微观状态出现的概率由玻尔兹曼分布决定概率正比于 exp(-E/T)其中 E 是能量T 是温度。能量越低的状态出现概率越高能量越高的状态出现概率指数级下降。这个形式简洁到近乎优雅而且给了我们一个非常直观的世界观系统倾向于朝着能量低的方向走。EBM 就是把这套世界观直接搬进了机器学习。我们不再直接定义 P(x)而是先定义一个能量函数 E(x)以及 E(x,y)然后通过玻尔兹曼映射把能量变成概率。这样做的第一好处是形式极度统一——任何你能用能量函数刻画的关联规则都可以纳入这个框架第二好处是物理直觉清楚——训练一个 EBM本质上就是在凿一个能量地形让真实数据的能量低、非真实数据的能量高或者说得更技术一点让模型分布去贴合数据分布。这篇文章主要适合两类读者一类是已经接触过一些深度生成模型比如 VAE、GAN想换个视角重新理解概率建模的人另一类是本来做统计物理或计算物理想看看自己的老本行在机器学习里怎么发光发热的人。我会尽量把数学推导控制在够用的范围内但一些关键的公式变换必须写出来因为 EBM 所有的训练难点都藏在公式里。2. EBM 的核心框架能量、配分函数与概率分布2.1 能量函数与玻尔兹曼分布EBM 的定义其实非常简单。给定输入数据 x可以是图片、序列、状态向量等我们定义一个能量函数 E_θ(x)带参数 θ。这个函数输出一个实数标量表示这个配置configuration的不合适程度。能量越低说明这个配置越自然或越合理。然后通过玻尔兹曼分布把能量转换为概率密度P_θ(x) exp(-E_θ(x)) / Z(θ)这里的 Z(θ) 是配分函数计算公式是Z(θ) ∫ exp(-E_θ(x)) dx在离散情况下就是求和Z(θ) Σ_x exp(-E_θ(x))你看就这么两步一个概率模型就建立起来了。这个框架的巧妙之处在于它没有强迫我们直接给出一个归一化的概率表达式而是允许我们先随便定义一个打分函数能量函数最后再统一归一化。2.2 配分函数EBM 一切苦难的根源配分函数这个量是 EBM 与普通判别模型最大的区别也是所有训练难题的根源。为什么难因为你要对全空间所有可能的 x 求和/积分。在图像任务里x 是 256×256×3 维的向量全空间的大小是天文数字精确求和是彻底不可能的。更麻烦的是配分函数本身还在参数 θ 的控制下不断变化。每更新一步参数Z 都跟着变而我们甚至很难估计它当前的值。这就导致 EBM 没法直接用标准的极大似然估计来做梯度下降——因为似然函数里面带着一个无法计算的归一化常数。我记得刚学到这里的时候特别困惑既然配分函数这么难算为什么还要用这个框架为什么不直接定义一个归一化的网络输出答案有两个层面第一能量函数的形式可以非常灵活不受归一化约束。这意味着你可以轻易地融入各种结构约束、物理规律、对称性这在很多科学问题里价值巨大。第二虽然精确计算配分函数不可能但梯度的估计是可行的。绕开配分函数直接估计模型梯度这就是对比散度Contrastive Divergence等一系列算法的出发点。2.3 对数似然梯度核心公式推导极大似然估计的目标是最大化对数似然L(θ) E_{x~P_data}[log P_θ(x)]把 P_θ(x) exp(-E_θ(x)) / Z(θ) 代进去得到log P_θ(x) -E_θ(x) - log Z(θ)对 θ 求梯度∇_θ log P_θ(x) -∇_θ E_θ(x) - ∇_θ log Z(θ)关键在于第二项 ∇_θ log Z(θ)。做一个简单的变换∇_θ log Z(θ) (1/Z(θ)) ∇_θ Z(θ) (1/Z(θ)) ∇_θ ∫ exp(-E_θ(x)) dx (1/Z(θ)) ∫ exp(-E_θ(x)) (-∇_θ E_θ(x)) dx ∫ [exp(-E_θ(x)) / Z(θ)] (-∇_θ E_θ(x)) dx -E_{x~P_θ} [∇_θ E_θ(x)]把这一项代回原式∇_θ log P_θ(x) -∇_θ E_θ(x) E_{x~P_θ} [∇_θ E_θ(x)]写成更对称的形式∇_θ L(θ) E_{x~P_data}[-∇_θ E_θ(x)] - E_{x~P_θ}[∇_θ E_θ(x)]这个公式是 EBM 训练的基石。它告诉我们两件事第一项是把真实数据点的能量拉低这是正相positive phase 第二项是把模型采样出来的点的能量拉高这是负相negative phase。整个训练过程就是在玩一个拔河游戏真实数据的能量往下压模型幻想出来的数据的能量往上抬。最后平衡的时候模型分布就等于数据分布。从物理角度理解第一项相当于让系统更倾向于停留在数据所在的低能区域第二项相当于对系统的其他区域施加排斥力防止模型把概率质量摊得到处都是。2.4 从物理视角看模型行为统计力学的语言在这里非常好用。把 EBM 训练好的模型想象成一个能量地形图数据点集中在若干能量盆地里盆地之间的山脊能量很高。采样的时候模型在热噪声的驱动下在地形图上漫游——它更愿意待在低能量的盆地偶尔也会翻越山脊跑到另一个盆地。这个画面比神经网络输出一个概率生动得多而且在很多场景下更有解释力。比如在分子构象生成任务里能量盆地对应的就是一个一个稳定构象在图像生成里能量盆地对应的是不同类别的图像流形。实操中我特别喜欢用一个类比向别人解释 EBM想象一个弹性势能场数据点在底部安营扎寨负相采样相当于往这个势能场里随机扔小球看它们最终滚到哪里。训练的目标就是不断重塑这个地形让小球最终总爱往数据点附近滚。3. 能量函数的设计从受限玻尔兹曼机到深度能量网络3.1 经典选择受限玻尔兹曼机RBM说到 EBM 的历史绕不开受限玻尔兹曼机Restricted Boltzmann Machine, RBM。RBM 是一个二部图结构可见层 v 和隐藏层 h层内无连接层间全连接。它的能量函数定义为E(v,h) -Σ_i a_i v_i - Σ_j b_j h_j - Σ_{i,j} v_i W_{ij} h_j这里的 a、b 是偏置项W 是可见层和隐藏层之间的权重矩阵。因为层内无连接所以给定一个层另一个层的条件分布是独立的这给采样带来了极大的方便。RBM 在 2006 年深度学习复兴的时候扮演过关键角色——Hinton 用它做逐层预训练训练深度信念网络。我自己也从头写过 RBM 的代码说实话训练 RBM 比想象中要难难在负相采样的质量。经典的做法是用对比散度CD-k即从训练数据出发做 k 步吉布斯采样来近似负相。3.2 深度能量网络与现代架构RBM 的线性结构表达能力有限现代的 EBM 基本都用深度神经网络直接做能量函数。也就是 E_θ(x) Net(x)输入 x输出一个标量。网络内部可以是任意结构——卷积网络、Transformer、残差网络都可以。但直接让网络输出一个标量自由度太大了很容易出现训练不稳定的情况。实践中常见的设计策略有第一种是去噪自编码器风格的能量。输入被加入噪声后网络的目标是尽量输出一个能量值让干净数据的能量低、加噪数据的能量高。这本质上是在让能量函数学会分辨干净信号和噪声。第二种是基于得分score的视角。我们其实不关心能量的绝对值只关心能量对输入的梯度 ∇_x E_θ(x)这个梯度叫得分函数。在很多生成方法如 Langevin 采样里我们只需要这个梯度就足够完成采样根本不需要算配分函数。这给了我们极大的设计自由——甚至可以让网络直接输出得分而不是标量能量。第三种是对比学习式的思路。把能量函数设计成一种度量正样本对的能量低负样本对的能量高。这在一些度量学习和检索任务里非常好用。3.3 能量函数的选择原则这里分享一些我踩过坑之后总结出的经验能量函数不是越复杂越好。网络容量越大能量地形越崎岖负相采样就越容易陷入局部模式。如果你的生成任务不是特别复杂一个中等规模的网络往往比一个超大网络效果更好。我试过一个 6 层的 MLP 做 MNIST 上的 EBM效果竟然不比 ResNet 差太多但训练稳定得多。能量函数对输入的依赖方式很重要。如果你希望模型有平移不变性比如图像任务能量函数应该用卷积结构来构建而不是把图像拉平后丢进全连接层。否则你需要海量数据来让模型自己学会平移不变性这在能量模型里尤其难学。注意能量函数的尺度。能量值的绝对大小会影响采样步长和温度参数的选择。我习惯在能量网络的最后一层加一个 tanh 或者把输出尺度限制在一定范围这样采样超参数更容易调节。3.4 一个简单的 EBM 网络实现以 PyTorch 为例一个用于图像的最小 EBM 可以这样定义import torch import torch.nn as nn class SimpleEBM(nn.Module): def __init__(self, input_dim784, hidden_dim256): super().__init__() self.net nn.Sequential( nn.Linear(input_dim, hidden_dim), nn.Softplus(), nn.Linear(hidden_dim, hidden_dim), nn.Softplus(), nn.Linear(hidden_dim, 1) ) def forward(self, x): # 输入形状: (batch, input_dim)输出形状: (batch, 1) return self.net(x).squeeze(-1)注意这里激活函数用了 Softplus 而不是 ReLU。原因是 Softplus 处处可导且导数连续对基于梯度的 Langevin 采样更友好。ReLU 在负半轴的梯度为 0采样到这些区域时得分会失效导致粒子原地卡住。4. 训练 EBM 的核心难点配分函数与对比散度4.1 为什么不能直接做最大似然我们已经看到最大似然梯度的表达式非常干净∇_θ L(θ) E_{P_data}[-∇_θ E_θ(x)] - E_{P_θ}[∇_θ E_θ(x)]漂亮是漂亮但第二项包含对模型分布 P_θ 的期望。要算这个期望就得从当前模型采样——而这恰恰是需要配分函数的因果循环了。如果你硬算呢把配分函数的数值估计出来然后代入公式计算梯度。在低维空间里可以这么做比如二维的高斯混合模型用数值积分算 Z 没问题。但一旦维度升上去图像就成千上万维数值积分直接爆炸。所以我们必须创造一种避开精确配分函数的方法。4.2 对比散度CD一个天才的近似Hinton 在 2002 年提出的对比散度Contrastive Divergence, CD是历史上最成功的近似方案。CD 的出发点是一个很实际的观察我们不需要精确地从 P_θ 采样只需要一个方向大致正确的负相样本来计算梯度。既然精确采样难那我们从训练数据出发做 k 步吉布斯采样或 Langevin 采样把得到的样本当作 P_θ 的近似样本。关键在于初始化的选择正相采样的起点是训练数据 x而不是随机噪声。这意味着采样器只需要从数据点开始漂移一小段距离就能反映出模型分布与数据分布在局部上的偏差方向。CD-k 算法的流程是从训练集取一个 batch 的真实样本 x从 x 出发执行 k 步采样RBM 里是块吉布斯采样连续 EBM 里是 Langevin 采样得到负相样本 x计算正相梯度 ∇_θ E_θ(x) 和负相梯度 ∇_θ E_θ(x)两者相减得到近似梯度用这个梯度更新参数 θ。CD 的一个细节魔鬼是从数据点初始化意味着采样永远倾向于停留在数据分布附近对远端的高概率区域探索不足。这在实践中会导致模型学到的分布比真实分布更尖锐——它把概率集中在了训练数据的小邻域内而牺牲了对整个流形的覆盖。4.3 持久对比散度PCD把链子养起来为了解决 CD 探索不足的问题Tieleman 提出了持久对比散度Persistent Contrastive Divergence, PCD。思路也很妙不要每次从数据点重新初始化采样链而是维护一组持续运行的采样链称为持久链在每一步训练中让这些链继续采样几步用它们得到的样本作为负相样本。这样做的好处是采样链有充分的时间在模型分布中游走能探索到更远的区域坏处是当模型参数快速变化时采样链可能跟不上参数的更新导致负相样本过时梯度不准确。PCD 在训练初期效果很好但后期会遇到一个常见问题采样链会逐渐收敛到某个模式附近丢失多样性。这就是所谓的模式坍缩mode collapse现象在 EBM 训练中的体现。我在实践中对 PCD 做过一个小改进给持久链加入周期性重置。比如每 500 步训练随机选取一部分持久链的状态用随机噪声或某个训练样本重新初始化。这样可以避免链子陷入单一模式而长期无法摆脱的情况。4.4 对比学习与 score matching另辟蹊径除了 CD 家族还有两大类训练 EBM 的方法各有各的适用场景。Score Matching得分匹配的思路是不直接优化数据的 log 似然而是让模型的得分函数 ∇_x log P_θ(x) 尽量接近真实数据分布的得分函数 ∇_x log P_data(x)。因为真实分布的得分是未知的要把它用可计算的形式替换掉。Score Matching 有一个漂亮的结论——目标函数可以化为一个只依赖模型得分梯度Hessian和模型得分值的期望式配分函数完全消掉了。这个方法的优点是稳定不需要采样缺点是 Hessian 计算代价高而且它对分布的支持域假设比较严格。后来 Hyvärinen 又提出了 Sliced Score Matching用随机投影近似 Hessian大大缓解了计算压力。噪声对比估计NCE的思路则是既然配分函数难算那就把配分函数当作一个额外参数来学。引入一个辅助噪声分布 p_noise(x)把问题变成二分类——判断一个样本来自数据还是噪声。这样配分函数被隐性吸收进了判别器的偏置项里。NCE 的缺点是噪声分布的选择对效果影响巨大。如果噪声分布离数据分布太远判别任务太简单学到的东西会很粗糙如果太近又难以区分。实践里常用的策略是用数据的扰动版本作为噪声分布配合学习率退火效果不错。4.5 各种训练方法对比为了帮你快速决策不同场景下选哪种方法这里整理一个基于我实际经验对照表。方法核心思想优点缺点适用场景CD-k从数据点出发采样 k 步简单、收敛快对分布覆盖不足容易出现模式坍缩中小规模数据、RBM、快速原型验证PCD维护持久采样链负相质量高、探索充分采样链可能滞后或坍缩、超参数多中等规模连续数据、图像Score Matching匹配模型与数据的得分函数无需采样、稳定Hessian 代价高、对分布形式有要求低维到中维连续数据Sliced SM随机投影近似 Hessian计算可控、可扩展实现复杂高维连续数据NCE与噪声分布做判别无采样、思想简单依赖噪声分布选择分布有明确先验的场景5. Langevin 采样让能量变成样本5.1 从能量到样本的物理过程训练 EBM 不是终点最终目的是从模型中采样生成新样本。由于配分函数未知我们不能像其他归一化模型那样直接算概率而是要用马尔可夫链蒙特卡洛MCMC的方法。最常用的采样工具是 Langevin 动力学。它的更新规则是x_{t1} x_t - (ε/2) ∇_x E_θ(x_t) √ε · z_t其中 z_t ~ N(0, I) 是高斯噪声ε 是步长。这个公式的物理含义非常清楚第一项让粒子沿着能量下降的方向滑动漂移项第二项加入热噪声让粒子能够翻越能量壁垒扩散项。平衡状态下粒子的分布恰好是玻尔兹曼分布 exp(-E/τ)。注意严格来说 Langevin 采样给出的分布是 exp(-2E/τ) 的形式所以实际使用时步长和温度的关系需要小心处理。我在代码里通常会这样写def langevin_step(x, energy_fn, step_size0.1, noise_scale1.0): x.requires_grad_(True) energy energy_fn(x).sum() grad torch.autograd.grad(energy, x)[0] x x.detach() - step_size * grad noise_scale * torch.randn_like(x) return x5.2 采样步数与步长的博弈Langevin 采样有一个核心矛盾步长太大动力学不稳定粒子容易发散步长太小需要很多步才能从初始点走到高概率区域。而且 EBM 的能量地形通常很不均匀——有的区域平坦、有的区域陡峭单一的学习率很难在所有区域都表现良好。实践中我常用的策略是一个两步走的方案。第一步用较大的步长比如 0.5做 10-20 步预热采样让粒子快速靠近低能量区域第二步改用较小的步长比如 0.05做 30-50 步精炼采样让粒子在高概率区域内部充分混合。这样可以兼顾效率和精度。还有一个特别容易踩的坑Langevin 采样对能量的绝对尺度非常敏感。如果能量函数输出的数值范围很大比如几百到几千那么梯度也会很大即使步长很小也会一步跑飞。解决方法是给能量输出做归一化处理或者使用自适应步长。我在自己的框架里用了一个简单的技巧记录最近若干步的梯度均方根如果过大就减小步长过小就增大步长效果相当不错。5.3 从 RBM 到连续 EBM 的采样对比RBM 因为层内无连接的结构可以使用块吉布斯采样先固定可见层 v从 P(h|v) 采样隐藏层再固定隐藏层 h从 P(v|h) 采样可见层。这两步都只需要做独立采样非常高效# RBM 条件采样伪代码 def gibbs_step(v, W, a, b): # 采样隐藏层 h_prob torch.sigmoid(b v W) h torch.bernoulli(h_prob) # 采样可见层 v_prob torch.sigmoid(a h W.t()) v torch.bernoulli(v_prob) return v连续 EBM 就没有这种便利只能走 Langevin 路线。但和 RBM 的块吉布斯相比Langevin 采样的优势在于可以处理连续变量而且不需要设计条件分布适用面广得多。6. 实际应用场景与案例EBM 在图像、科学计算与决策问题中的实战6.1 图像生成与异常检测EBM 在图像任务上最经典的应用之一是把它当作一个可学习的能量地形然后用 Langevin 采样生成图像。早期的深度 EBM 工作比如 Yann LeCun 团队的论文展示了在 CIFAR-10 和 MNIST 上可以生成合理的样本。不过老实说纯 EBM 的图像生成质量在相当一段时间内都不如 GAN 或扩散模型。它的优势更多体现在其他方面——尤其是异常检测。因为 EBM 天然地给每个输入打了一个能量分训练时正常样本的能量被压低异常样本模型没见过的类型通常落在高能量区域。你不需要专门训练一个分类头直接把能量当作异常分数就行。我做过一个工业质检的小实验用正常产品图片训练 EBM到了测试阶段把有缺陷的产品图输入网络能量值会明显偏高。这个方案在只有正样本、没有负样本的场景下特别好用传统监督学习很难处理这种问题。6.2 分子构象生成与科学计算EBM 在科学计算领域有一个根正苗红的优势很多物理系统本身就是能量模型。分子力场就是典型的能量函数蛋白质折叠问题里用的也是能量地形。用 EBM 去学习分子数据能量函数不仅是一个生成模型还能被解释为一种可学习的物理势能。我接触过的一个方向是分子构象生成给定一个分子的化学式生成它在不同温度下可能出现的三维构象。用 EBM 建模时能量函数的输入是原子的三维坐标输出是构象的能量。得益于 EBM 的物理可解释性采样得到的构象天然符合玻尔兹曼分布不同构象的出现频率大致正比于 exp(-E/kT)这在药物设计中特别有价值。另一个让我觉得有潜力的方向是蛋白质设计。AlphaFold 预测的是结构但怎样在序列空间中搜索能折叠成目标结构的序列本质上是一个在能量地形上采样的过程。EBM 的框架在这里能自然地结合物理约束和实验数据。6.3 与强化学习的结合能量视角的策略表示EBM 在强化学习里有一个不太为人知但潜力很大的用法——把策略policy表示为能量模型。具体来说给定状态 s动作 a 的条件能量是 E_θ(s, a)策略就是π(a|s) exp(-E_θ(s, a)) / Z(s)这样做的理由很实际某些场景下最优策略是多模态的。比如一个机器人走到分岔路口往左和往右都可以到达目的地但政策梯度方法通常只能学到一个模式的分布因为高斯分布是单峰的。EBM 可以天然地表示多模态策略——能量地形上有几个盆地就对应几个策略模式。这类方法在模仿学习里也有应用比如 Energy-Based Imitation Learning。把专家轨迹映射到能量地形上专家动作落在低能量区域非专家动作能量高这比直接行为克隆更鲁棒特别是在专家数据不完美的情况下。6.4 一个最小可运行的训练循环为了让你能快速上手我提供一个完整的训练循环骨架。这里用最简单的 CD-1 思路import torch import torch.nn as nn import torchvision.datasets as datasets import torchvision.transforms as transforms # 数据加载 mnist datasets.MNIST(./data, trainTrue, downloadTrue, transformtransforms.ToTensor()) loader torch.utils.data.DataLoader(mnist, batch_size128, shuffleTrue) # 初始化模型与优化器 model SimpleEBM(input_dim784, hidden_dim256) optimizer torch.optim.Adam(model.parameters(), lr1e-3) def langevin_sample(x, k30, step_size0.05): 从输入 x 出发做 k 步 Langevin 采样 x x.clone().detach().requires_grad_(True) for _ in range(k): energy model(x).sum() grad torch.autograd.grad(energy, x)[0] x x.detach() step_size * (-grad) (2 * step_size) ** 0.5 * torch.randn_like(x) x x.clamp(0, 1) # 像素值约束 return x.detach() # 训练循环 for epoch in range(20): for batch_idx, (data, _) in enumerate(loader): x_real data.view(-1, 784) # (batch, 784) # 负相采样从数据点出发做 Langevin 采样 x_fake langevin_sample(x_real, k10, step_size0.1) # 计算正相和负相能量 e_real model(x_real).mean() e_fake model(x_fake).mean() # CD 损失正相能量 - 负相能量 loss e_real - e_fake optimizer.zero_grad() loss.backward() optimizer.step() if batch_idx % 200 0: print(fEpoch {epoch} | Batch {batch_idx} | Loss: {loss.item():.4f})注意上面langevin_sample里步长和噪声项的系数我用了(2 * step_size) ** 0.5这是因为 Langevin 更新的标准形式里噪声标准差是 sqrt(2ε)。不同论文里的系数有差异你自己实现时务必保持一致性。6.5 实战配置速查任务类型能量网络规模采样步长采样步数训练方法MNIST 级别2-3 层 MLP0.05-0.110-30CD-1 或 CD-5CIFAR 级别4-6 层 CNN0.01-0.0320-60PCD 或 Sliced SM分子构象图神经网络0.01-0.0250-100Score Matching高分辨率图像深度 ResNet0.005-0.01100扩散模型式得分训练7. 常见问题与排错实录我在 EBM 实操中踩过的 8 个坑7.1 训练发散能量值一路冲上天现象训练过程中 loss 持续增大能量值跑到几千几万模型完全崩掉。原因分析负相采样的步长太大或步数太少导致负相样本停留在高能量区域梯度方向混乱也可能能量网络的输出没有约束数值尺度失控。解决办法把能量网络的输出层换成 tanh 激活把能量限制在 [-1, 1]调小 Langevin 步长增加采样步数检查数据预处理是否做了归一化图片像素应放缩到 [0,1] 而不是 [0,255]。这个坑我最初踩过好几次后来养成了一个习惯每次训练前先固定几个测试样本跑一次 Langevin 采样可视化看能量值是否合理、采样结果是否像样再做正式训练。7.2 模式坍缩生成结果永远只有一种现象采样生成的样本全都长得差不多多样性极差。原因分析负相采样不够充分或者持久链收敛到了一个能量盆地无法逃出。解决办法使用 PCD 并周期性重置部分链子在负相采样的初始点中加入噪声甚至随机噪声增加探索性增大 Langevin 采样的噪声系数等价于提高采样温度调整模型容量如果容量太大能量地形过拟合到训练样本的尖峰上很容易坍缩。7.3 采样质量差生成图像模糊或有伪影现象生成的图像整体能看但细节模糊或出现奇怪伪影。原因分析能量函数对局部模式的刻画不够精准负相采样步长太大导致粒子只能到达盆地的大致区域无法细化到高概率的核心区。解决办法采样时先用大步长预热、再小步长精炼在能量网络上增加跳跃连接ResNet 结构以保留更多原始输入信息检查是否有数据预处理环节引入的噪声。7.4 训练很慢Langevin 采样是瓶颈现象每个 batch 的训练都要做几十步 Langevin 采样自动微分算梯度代价极高训练速度比同等规模的 GAN 慢 10 倍以上。原因分析这是 EBM 方法的固有代价无解。但可以优化减少 Langevin 步数用 CD-1 代替 CD-10效果下降但速度快很多用得分匹配类方法替代采样类方法如果场景允许对能量函数的梯度做近似计算比如每隔几步才重新计算梯度、中间用常梯度外推在 GPU 上并行处理多个采样链充分利用批处理能力。7.5 负相采样体感像随机噪声能量地形没成型现象Langevin 采样出来的负相样本看起来完全不像数据像纯噪声。原因分析模型还没有学到任何有意义的结构能量地形还是平的粒子的运动完全是随机游走。这通常是训练初期的正常现象但如果持续很多 epoch 还是这样就要检查学习率是否过大或能量网络是否太浅。7.6 CD 与真实梯度偏差太大现象用 CD 训练收敛的结果直接用真实梯度用 bootstrap 近似验证发现分布差异很大。原因分析CD-k 在 k 很小时偏差显著尤其是数据分布和模型分布差别大的时候。Hinton 的解释是 CD 在优化一个不同的目标函数对比散度而不是负对数似然不过实践中这个偏差未必有害。如果实在担心建议用 PCD 或 Score Matching 交叉验证一下。7.7 训练后期 loss 一直在震荡现象loss 在训练后期无法收敛曲线像心脏跳动一样上下震荡。原因分析负相采样链的噪声太大了。Langevin 采样中的随机噪声在训练后期应该逐渐减小模拟退火的效果。解决办法让噪声系数随训练进度线性衰减比如从 1.0 降到 0.1。这样做相当于逐渐降低采样温度让模型在后期更精准地贴合数据分布。7.8 MNIST 上经典 EBM 效果对照这里附一份我自己复现实验时的典型结果对照训练 20 epochbatch size 128Adam 优化器方法FID 分数越低越好训练耗时备注CD-1 MLP65-85约 10 分钟快速原型验证首选CD-10 MLP45-60约 20 分钟质量与速度折中PCD CNN30-40约 35 分钟稳定的中等质量Sliced SM CNN25-35约 40 分钟无采样过程但实现复杂7.9 排查步骤速查表症状第一步检查第二步检查第三步尝试loss 爆炸能量值尺度采样步长减小学习率生成模糊采样步数网络深度预热精炼方案模式坍缩采样链多样性温度系数PCD 链重置训练太慢采样步数网络规模Score Matching不收敛学习率数据归一化换优化器AdamW8. EBM 背后的数学为什么对偶、几何与拓扑视角如此重要8.1 能量模型与指数族分布的关系从统计学的角度看EBM 本质上是在定义一个指数族分布P_θ(x) exp(-E_θ(x)) / Z(θ)不过 EBM 与经典指数族分布有一个关键区别经典指数族分布的能量函数是线性参数化的比如高斯的能量是二次型而 EBM 的能量函数是非线性、深层参数化的。这使得 EBM 的表达能力远超经典指数族但也让配分函数彻底失去了闭式解。一个有趣的理论结果表明EBM 的本质是一个学习过的物理势能场——它对数据的建模方式不是直接给概率密度一个解析表达式而是搭建了一个经典粒子在其中运动的势能地形。这个视角让 EBM 区别于其他生成模型的地方一目了然。8.2 能量面视角下的学习动态我特别想强调一点用能量地形来思考 EBM 的学习过程比盯着 loss 曲线要高效得多。当训练开始的时候能量地形基本是平的所有点的能量都差不多。随着训练的推进真实数据点附近开始出现盆地负相采样点慢慢被推上高能量区。一个有经验的研究者应该关注的是盆地之间的间隔是否清晰、每个盆地的宽度是否合适。盆地太窄能量只在极小邻域内低说明模型过拟合了训练样本缺乏泛化能力盆地太宽大片区域能量都低说明模型区分度不够。我通常用一个简单的可视化技巧来判断把测试集的样本输入模型看它们的能量分布。正常的模型测试集样本的能量应和训练集样本的能量分布接近如果测试集样本能量明显偏高说明模型把训练样本背下来了泛化性差。8.3 EBM 与扩散模型的亲缘关系近几年大热的扩散模型Diffusion Model实际上和 EBM 有着千丝万缕的联系。扩散模型在训练时拟合的是得分函数即能量函数的负梯度采样时走的也是 Langevin 动力学式的逐步去噪过程。从这个角度看扩散模型可以理解为一种动态 EBM——它不再学习一个固定的能量函数而是学习一系列从噪声到数据的得分函数。这种亲缘关系让我对 EBM 的未来比较乐观扩散模型的成功证明了得分 → 采样这条技术路线是可行的、可以扩展到高维和大数据的。EBM 作为一个更广义的框架在能量函数可解释性和任务适应性上还有不少潜力可挖。9. 写在最后的实践建议9.1 从哪个玩具任务入手如果你刚接触 EBM我建议不要一上来就挑战 CIFAR-10 或高分辨率图像。先在 MNIST 或 Fashion-MNIST 上把完整流程跑通——数据加载、能量网络、Langevin 采样、CD 训练、生成可视化——然后逐步增加难度。我这里有一个推荐的递进路线二维高斯混合数据可视化能量地形和采样轨迹直观理解算法行为MNIST验证生成质量和模型基本能力Fashion-MNIST 或 CIFAR-10挑战更复杂的分布换用 CNN 结构特定领域数据比如自己的业务数据集此时你已经有足够经验做定制化调整。9.2 关键参数速查参数推荐范围影响学习率1e-4 ~ 1e-3太大发散太小收敛慢Langevin 步长0.01 ~ 0.1太大不稳定太小采样不足采样步数10 ~ 100越多负相越准但越慢噪声系数与步长相关约 sqrt(2ε)决定探索能力批大小64 ~ 256负相梯度方差与计算速度的权衡能量网络宽度256 ~ 1024表达能力与过拟合风险的权衡需要注意这些参数不是独立的。步长、噪声系数、温度三者紧密耦合改动一个通常需要同步调整其他几个。9.3 面向工业应用的建议如果你的目标是工业落地我的建议是优先试试 EBM 的异常检测应用而不是纯生成任务。原因很简单异常检测只需要能量值不需要在高维空间采样绕过了最困难的配分函数问题训练稳定性和产出价值都很可观。另一个比较现实的落地方向是与现有模型做组合。比如把 EBM 的能量分数作为其他系统的特征或约束项而不是独立使用。我做过一个推荐系统的实验用 EBM 给用户-物品对打分虽然单独用效果一般但把能量分数和协同过滤的特征拼接后效果有明显的提升。9.4 最后一点经验我个人在实际操作中的体会是EBM 的门槛不在理论上而在工程调试。你可能会花很多时间调整采样步长、噪声系数、链的数量却感觉效果始终差一口气。这是正常的。EBM 对超参数敏感程度远高于 VAE 或 GAN但一旦你把整套调试流程捋顺你会发现它在处理分布复杂、模态多样的数据时有不可替代的优势。顺着这个方向继续扩展后面可以写概率模型的统计力学理论第二篇——比如基于流的模型与最优传输的视角或者从变分推断到平均场理论的对照。每一个主题挖下去都能挖出不少有意思的东西。