Looped Diffusion Transformer发布：循环推理机制革新图像生成效率

摘要：Looped Diffusion Transformer（循环扩散Transformer）是一种新型图像生成架构，通过在每个去噪步骤中多次运行共享的Transformer模块组，提升推理效率并减少计算开销。该模型引入深度监督和自调节注意力机制，解决了简单循环推理的不足。在基准测试中，260M参数的循环模型以4.9倍更少的推理计算量超越了规模大6.5倍的模型，展示了其在资源受限场景下的强大潜力。此外，循环深度可在采样时动态调整，为图像生成提供了更灵活的计算-精度权衡方案。

---

技术机制剖析

Looped Diffusion Transformer通过在每个去噪步骤中多次运行共享的Transformer模块组，实现了更高效的图像生成。这种循环机制的核心在于：

1. 共享模块组：多个去噪步骤共享同一组Transformer模块，减少了模型参数量和计算开销。
2. 深度监督：在每个循环步骤中引入深度监督信号，确保循环过程的有效性，避免简单循环带来的性能下降。
3. 自调节注意力：通过自调节注意力机制，模型能够动态调整循环过程中的注意力权重，进一步提升推理精度。

工程权衡与实测表现

• 计算效率：在基准测试中，260M参数的循环模型以4.9倍更少的推理计算量超越了规模大6.5倍的模型，展示了其在资源受限场景下的强大潜力。
• 灵活性：循环深度可在采样时动态调整，用户可以根据对图像质量的期望和计算资源的限制，灵活选择循环深度。
• 性能表现：在M5 Pro上进行测试，循环深度为1时，生成一张图像约需23-24秒；循环深度为4时，生成时间增加到43-47秒。这表明循环深度与计算开销成正比，但能显著提升图像质量。

开发者落地与部署建议

• 资源优化：对于资源受限的设备或应用场景，开发者可以利用循环机制在保证图像质量的同时减少计算开销。
• 动态调整：根据用户需求和实时计算资源，动态调整循环深度，以实现最佳的性能-质量平衡。
• 开源代码：模型代码和权重已开源，开发者可以快速集成和测试该模型，并根据具体需求进行二次开发。

结论

Looped Diffusion Transformer通过创新的循环推理机制，在图像生成领域实现了计算效率与图像质量的良好平衡。其开源特性和灵活的循环深度调整机制，使其成为资源受限场景下图像生成任务的理想选择。

---

消息来源：Reddit r/MachineLearning (2026-10-12)

—— 完 ——

主题标签： #Looped Diffusion Transformer 关注 #图像生成 关注 #循环推理 关注 #深度监督 关注 #自调节注意力 关注