Hugging Face提出扩散模型校正训练框架：显著提升样本质量与多样性

摘要：Hugging Face提出了一种针对扩散模型的校正训练方法，通过在推理过程中引入校正步骤，缩小训练与推理之间的差距，从而显著提升样本质量。该方法通过校正器对基础模型的预测进行迭代优化，在多个基准测试中表现出色，尤其在无指导生成和无条件生成任务中超越了现有方法。此外，校正步骤可与分类器无指导（CFG）结合，进一步提升生成结果的多样性并减少过饱和现象。尽管校正过程增加了推理成本，但通过将优化后的预测蒸馏回基础模型，可有效降低额外开销。

---

技术机制剖析

扩散模型（Diffusion Models）在生成过程中依赖迭代采样，但这种采样方式容易因暴露偏差（Exposure Bias）导致错误累积。具体来说，训练时去噪器基于真实图像与噪声的混合数据进行学习，而推理时其输入则来自之前步骤的预测结果，这使得模型在推理过程中面临训练时未曾见过的输入数据，可能导致生成质量下降或出现伪影。

Hugging Face提出的校正训练方法通过引入一个校正器（Corrector）来解决这一问题。校正器以基础模型的预测作为输入，并针对相同的真实目标进行训练，从而将校正过程转化为一个显式的学习任务。在推理过程中，校正器在每个去噪步骤中迭代优化去噪器的预测结果，防止早期伪影延续到最终样本中。

工程权衡与实测表现

尽管校正步骤增加了推理成本，但实验结果表明，该方法在多个基准测试中均表现出色：

• 样本质量提升：在DiT、SiT和JiT等模型上，校正训练方法显著提升了无指导生成和无条件生成的FID（Fréchet Inception Distance）分数，展示了其在生成质量上的优势。
• 多样性保持：校正训练方法在提升样本质量的同时，较好地保持了生成结果的多样性，避免了过度优化导致的模式崩溃问题。
• 与CFG结合：将校正步骤与分类器无指导（CFG）结合后，生成结果的多样性进一步提升，同时减少了CFG常见的过饱和现象。

此外，研究团队还提出了一种通过将优化后的预测蒸馏回基础模型的方法，以降低校正过程的推理成本。这种方法在保持校正带来的质量提升的同时，避免了额外的推理时间开销。

开发者落地与部署建议

对于开发者而言，校正训练方法提供了一种简单而有效的框架来提升扩散模型的生成质量。以下是一些部署建议：

1. 模型集成：将校正器作为扩散模型的一个组件进行集成，在推理过程中动态调用校正步骤。
2. 资源管理：根据应用场景对校正步骤的调用频率进行优化，以平衡生成质量与推理成本。
3. 蒸馏优化：利用蒸馏技术将校正后的预测结果回传至基础模型，以减少推理开销。

结论

Hugging Face提出的校正训练方法为扩散模型的优化提供了一种新的思路，通过显式地缩小训练与推理之间的差距，显著提升了生成质量与多样性。该方法不仅在学术研究中有重要价值，也为实际应用中的模型部署提供了实用的改进方向。

---

消息来源：Hugging Face Daily Papers (2026-10-14)

—— 完 ——

主题标签： #Hugging Face 关注 #扩散模型 关注 #校正训练 关注 #样本质量 关注 #推理优化 关注