无分类器引导(Classifier-Free Guidance,CFG)出自 Ho 与 Salimans 的论文《Classifier-Free Diffusion Guidance》。
背景
分类器引导(classifier guidance)是当时新出现的方法,用于在条件扩散模型训练完成之后,在「模式覆盖」与「样本保真度」之间做权衡,作用类似其他类型生成模型里的低温度采样或截断。但它的做法是把扩散模型的分数估计与一个图像分类器的梯度结合起来,因而需要额外单独训练一个图像分类器。
论文要回答的问题
引导能否不依赖分类器完成?论文证明可以——由纯生成模型完成引导:同时训练一个条件扩散模型和一个无条件扩散模型,再把得到的条件与无条件分数估计组合起来,即可取得与分类器引导相似的「样本质量与多样性」权衡,这就是无分类器引导。
对使用者的含义
不再需要外部分类器,引导强度就变成一个可在采样阶段调整的参数——按论文的表述,它调节的是样本质量与多样性之间的取舍。
适用边界
CFG 是扩散模型采样阶段的引导技术,不改变模型架构,也不涉及训练数据的构造;论文的对比结论限于其自身实验设定(该论文短版曾发表于 NeurIPS 2021 深度生成模型与下游应用研讨会)。