Hugging Face发布LiFT：革新生成模型推理效率与参数利用

摘要：Hugging Face推出了一款名为Loop Flow Transformers (LiFT)的新模型，通过循环应用共享的Diffusion Transformer (DiT)核心，显著提升了生成模型的推理效率与参数利用率。LiFT通过训练每个步骤以单一回归目标进行优化，避免了传统循环模型对最终预测的重复计算需求。实验结果表明，LiFT在ImageNet 256x256数据集上相较于密集DiT-XL/2基线模型，FID降低了3.34点，同时参数数量减少约60%，训练和推理的计算量分别降低32%和52%。这项技术为AI生成模型的高效推理提供了新的思路，尤其在处理大规模数据时展现出巨大潜力。

---

概述

Hugging Face近日发布了一款名为Loop Flow Transformers (LiFT)的新模型，旨在通过创新的循环机制提升生成模型的推理效率与参数利用率。LiFT的核心思想是反复应用一个共享的Diffusion Transformer (DiT)核心，并仅对模型初始估计到目标流路径上的点进行单步回归训练。这种方法避免了传统循环模型对最终预测的重复计算需求，从而大幅优化了推理过程。

技术亮点

• 循环机制优化：LiFT通过循环应用共享的DiT核心，减少了模型参数数量和计算量。
• 单步回归训练：每个步骤仅需训练一个回归目标，避免了对最终预测的重复计算。
• 连续深度坐标索引：通过连续深度坐标对目标进行索引，训练好的模型可以循环到远超训练深度的范围，而无需重新训练或修改。
• 性能提升：在ImageNet 256x256数据集上，LiFT-L/2相较于密集DiT-XL/2基线模型，FID降低了3.34点，同时参数数量减少约60%，训练和推理的计算量分别降低32%和52%。

行业影响

LiFT的发布为AI生成模型的高效推理提供了新的思路，尤其在处理大规模数据时展现出巨大潜力。其创新的循环机制和单步回归训练方法，不仅提升了模型的推理效率，还显著降低了计算资源的消耗。这对于需要处理海量数据的应用场景，如图像生成、视频生成等，具有重要意义。此外，LiFT的推出也展示了Hugging Face在AI模型优化领域的持续创新，为开发者提供了更高效、更具成本效益的工具。

开发者建议

• 尝试应用LiFT：对于需要高效推理的生成模型应用，建议尝试使用LiFT模型，以提升性能并降低计算成本。
• 关注后续更新：Hugging Face可能会发布更多关于LiFT的优化和扩展，建议开发者持续关注相关动态。
• 结合其他技术：可以将LiFT与其他优化技术结合使用，如量化技术、剪枝技术等，以进一步提升模型性能。

---

消息来源：Hugging Face Daily Papers (2026-10-04)

—— 完 ——

主题标签： #Hugging Face 关注 #生成模型 关注 #Diffusion Transformer 关注 #LiFT 关注 #推理优化 关注