Hugging Face提出扩散模型校正训练方法：显著提升样本质量与多样性

摘要：Hugging Face的研究团队提出了一种针对扩散模型的校正训练方法，通过引入校正步骤来减少训练与推理之间的差距，从而显著提升样本质量并保持多样性。该方法通过校正器对基础模型的预测进行迭代优化，在多个基准测试中表现出色，尤其在无条件生成任务中超越了现有方法。此外，该方法结合分类器自由指导（CFG）进一步提升了生成效果，并展示了通过知识蒸馏将校正结果整合回基础模型以降低推理成本的潜力。

---

1. 背景与动机

扩散模型（Diffusion Models）在图像生成等领域表现出色，但其采样过程存在迭代性，容易因暴露偏差（Exposure Bias）导致错误累积。训练时，噪声器（denoiser）基于真实图像与噪声的插值进行训练，但在推理时，其输入来自之前步骤的预测结果，这并非训练时所见。这种训练与推理之间的差距可能导致生成质量下降，需要额外的辅助手段（如CFG）来提升性能。

2. 方法概述

Hugging Face提出的校正训练方法通过引入一个校正器（Corrector）来优化扩散模型的采样过程。具体步骤如下：

1. 校正器训练：校正器以基础模型的预测结果作为输入，并针对相同的真实目标进行训练。这使得校正成为一个显式的学习任务，训练输入由基础模型提供。
2. 迭代优化：在采样过程中，校正器在每个去噪步骤中迭代地优化基础模型的预测结果，从而防止早期生成的伪影（Artifacts）影响最终样本的质量。
3. 重复应用：尽管校正器仅在基础模型的预测上训练，但其在推理时可以反复应用于自身的输出，以获得更好的结果。

3. 实验结果与性能

该方法在多个基准测试中进行了评估，包括DiT、SiT和JiT模型。实验结果表明，该方法在无条件生成任务中显著提升了FID评分，超越了之前报道的结果。此外，在结合CFG的情况下，校正训练方法进一步提升了生成样本的多样性，并减少了CFG常见的过度饱和问题。

4. 工程权衡与优化

• 质量与多样性的平衡：校正训练方法在提升样本质量的同时，较好地保持了生成样本的多样性，避免了传统方法中常见的模式坍缩问题。
• 推理成本控制：虽然校正步骤增加了推理时间，但通过将校正结果蒸馏回基础模型，可以有效降低推理成本，同时保留质量提升的效果。
• 跨模型适用性：该方法不仅适用于特定类型的扩散模型，还展示了在不同架构上的良好泛化能力。

5. 开发者建议

对于开发者而言，校正训练方法提供了一种简单而有效的提升扩散模型生成质量的途径。以下是一些建议：

• 模型集成：可以将校正器作为插件模块集成到现有的扩散模型中，以快速提升生成质量。
• 资源管理：在资源受限的环境中，可以通过知识蒸馏将校正结果整合回基础模型，以减少推理开销。
• 实验验证：建议在具体应用场景中验证校正训练方法的效果，并根据需求调整校正器的复杂度。

6. 结论

Hugging Face提出的校正训练方法为扩散模型的优化提供了一种新的思路，通过显式地减少训练与推理之间的差距，显著提升了生成样本的质量与多样性。该方法不仅在多个基准测试中表现出色，还展示了与CFG结合的潜力，为AI生成领域带来了新的可能性。

---

消息来源：ArXiv AI (cs.AI) (2026-10-15)

—— 完 ——

主题标签： #Hugging Face 关注 #扩散模型 关注 #校正训练 关注 #样本质量 关注 #CFG 关注