Hugging Face提出ID-Forcing框架：革新长视频生成中的分布对齐技术

摘要：Hugging Face的研究团队提出了一种名为In-Distribution Forcing (ID-Forcing)的新框架，旨在解决长视频生成中的分布漂移问题。传统方法依赖键值(KV)条件化来缓解漂移，但忽视了KV缓存本身可能偏离训练分布的问题。ID-Forcing通过自缓存机制，确保KV缓存和条件化过程与训练配置保持一致，从而在长视频生成中显著减少漂移现象。实验结果表明，该方法在标准视频生成基准测试中表现优异，并在用户研究中大幅超越现有方法。

---

背景与挑战

现代自回归(AR)视频扩散模型在短时视频生成方面表现出色，但在长视频生成中面临挑战，主要表现为颜色和纹理的漂移以及运动动态的衰减。现有的方法主要依赖键值(KV)条件化，通过选择或修改缓存的KV条目来缓解漂移问题。然而，这些方法假设缓存的KV条目始终保持在训练分布内，这一假设在超出训练范围后失效，导致KV条目本身成为分布外(OOD)的问题。

ID-Forcing解决方案

为了解决上述问题，Hugging Face的研究团队提出了In-Distribution Forcing (ID-Forcing)框架。该框架通过以下机制确保KV缓存和条件化过程与训练配置一致：

• 自缓存机制：每个数据块在缓存时不会依赖于之前的KV条目，从而保持滚动窗口完全在训练分布内。
• KV条件化对齐：通过在测试时调整KV条件化过程，使其与训练时的配置保持一致。

技术亮点

• 创新性自缓存机制：从源头上防止OOD KV条目的产生。
• 无缝扩展：使短时模型能够生成分钟级的长视频。
• 性能优越：在标准视频生成基准测试中表现优异，并在用户研究中大幅超越现有方法。

实验与验证

研究团队进行了广泛的评估，结果表明，ID-Forcing在缓解漂移方面显著优于现有方法，同时在标准视频生成任务中保持了竞争力。用户研究进一步验证了该方法的有效性，展示了其在实际应用中的潜力。

行业影响与未来展望

ID-Forcing框架的提出为长视频生成领域提供了新的技术路径，有望推动视频生成技术的进一步发展。其在处理分布漂移问题上的创新方法也为其他领域的AI模型提供了借鉴。未来，研究团队计划将该技术应用于更广泛的视频生成任务，并探索其在其他领域的应用潜力。

---

消息来源：Hugging Face Daily Papers (2026-10-02)

—— 完 ——

主题标签： #Hugging Face 关注 #视频生成 关注 #长视频 关注 #AI模型 关注 #ID-Forcing 关注