CompVis提出改进型分布扩散模型：突破图像生成效率与质量瓶颈

摘要：CompVis团队提出了一种改进型分布扩散模型（iDDM），通过延迟粒子扩展和引入时间依赖的评分规则调度机制，显著提升了扩散模型在现代图像生成任务中的效率与质量。该模型在ImageNet-256²数据集上实现了4步生成4.48 FID和50步生成2.38 FID的优异性能，且无需教师模型、自蒸馏或雅可比向量积（JVP）。这一技术突破不仅优化了扩散模型的训练流程，还展示了其在文本生成图像任务中的可迁移性，为AI图像生成领域带来了新的可能性。

---

技术背景与挑战

扩散模型（Diffusion Models）在图像生成领域取得了显著进展，但其扩展到现代图像生成任务时面临两大挑战：

1. 多粒子训练开销大：随着粒子数量增加，训练开销呈线性增长，限制了模型的可扩展性。
2. 全局固定的评分规则超参数：扩散模型使用全局固定的评分规则超参数，导致在采样预算上的单一权衡，难以适应不同场景的需求。

技术创新

CompVis团队提出了改进型分布扩散模型（iDDM），通过以下方法克服上述挑战：

1. 延迟粒子扩展：将粒子扩展操作推迟到后期Transformer层，从而减少训练过程中的计算开销。
2. 时间依赖的评分规则调度：引入基于Biroli2024动态机制的时间依赖评分规则调度机制，取代全局固定的超参数设置，实现更灵活的权衡优化。

结合基于DiT的潜在空间设置，iDDM在ImageNet-256²数据集上实现了以下性能：

• 4步生成：FID为4.48。
• 50步生成：FID为2.38。

这一结果来自单个从头训练的模型，无需教师模型、自蒸馏或JVP，展示了其在图像生成任务中的高效性和高质量输出。此外，该方法还成功迁移到文本生成图像任务中，展示了其广泛的应用潜力。

技术亮点

• 延迟粒子扩展：减少训练开销，提升模型可扩展性。
• 时间依赖评分规则调度：实现更灵活的权衡优化。
• 无需额外组件：无需教师模型、自蒸馏或JVP，降低了模型复杂度。
• 跨任务可迁移性：成功应用于文本生成图像任务，展示了其通用性。

行业影响与开发者建议

iDDM的提出为AI图像生成领域带来了新的突破，特别是在处理复杂图像生成任务时，其高效性和高质量输出为开发者提供了更强大的工具。开发者可以关注以下方面：

• 模型优化：利用延迟粒子扩展和时间依赖评分规则调度机制，优化现有扩散模型的训练流程。
• 跨任务应用：探索iDDM在文本生成图像及其他多模态任务中的应用潜力。
• 资源管理：在资源受限环境中，iDDM的低开销特性使其成为理想选择。

结论

CompVis的iDDM模型在图像生成领域实现了重要突破，为AI技术的进一步发展提供了新的方向。其高效的训练流程和高质量的输出展示了扩散模型在现代图像生成任务中的巨大潜力。

---

消息来源：Hugging Face Daily Papers (2026-09-29)

—— 完 ——

主题标签： #扩散模型 #图像生成 #AI图像生成 #CompVis