Hugging Face发布UniForget：多模态模型跨模态概念遗忘新突破

摘要：Hugging Face推出了一种名为UniForget的新方法，用于统一多模态模型（UMMs）的跨模态概念遗忘。该方法旨在防止模型生成目标概念的图像，同时在视觉理解中识别该概念，从而实现更全面的遗忘效果。实验表明，UniForget在BAGEL-7B-MoT和Janus-Pro-7B模型上分别实现了80.0%和92.7%的联合遗忘率，显著优于现有单路径遗忘方法。该研究还揭示了联合遗忘与能力保留之间的权衡，为多模态AI模型的遗忘机制研究提供了新的方向。

---

背景与挑战

统一多模态模型（UMMs）结合了图像生成和视觉理解的能力，但现有的单路径遗忘方法难以在两个模态上同时有效地抑制目标概念。这导致模型在生成图像时可能仍然包含目标概念，或在视觉理解中错误识别目标概念。

UniForget方法

为了解决这一问题，Hugging Face的研究团队提出了UniForget方法。该方法通过以下步骤实现跨模态概念遗忘：

1. 诊断基准UUBench：引入了一个包含30个目标概念和60个语义相关邻近概念的诊断基准，用于评估遗忘效果。
2. 跨模态联合遗忘机制：UniForget通过同时作用于图像生成和视觉理解路径，实现更全面的遗忘效果。具体来说，它利用生成路径的编辑能力抑制目标生成，并结合理解路径的遗忘机制来减少识别错误。
3. 实验验证：在BAGEL-7B-MoT和Janus-Pro-7B模型上的实验表明，UniForget的联合遗忘率分别达到了80.0%和92.7%，显著优于现有的单路径方法。

工程权衡与性能

• 优势：UniForget在多模态遗忘任务中表现出色，能够有效抑制目标概念，同时保持模型在其他任务上的性能。
• 挑战：联合遗忘与能力保留之间存在权衡，过度抑制可能导致模型在其他相关任务上的性能下降。
• 实测表现：实验结果显示，UniForget在多个基准测试中均表现出色，证明了其在实际应用中的潜力。

开发者建议

对于希望实现跨模态概念遗忘的开发者，UniForget提供了一种有效的解决方案。以下是一些建议：

1. 使用UUBench进行评估：在应用UniForget之前，建议使用UUBench对模型进行评估，以确定目标概念的遗忘效果。
2. 调整遗忘强度：根据具体应用场景，调整UniForget的遗忘强度，以在遗忘效果和能力保留之间找到最佳平衡。
3. 结合其他遗忘方法：UniForget可以与其他遗忘方法结合使用，以进一步提高遗忘效果。

未来展望

UniForget的发布为多模态AI模型的遗忘机制研究提供了新的方向。未来研究可以进一步探索如何在不同类型的模型和任务中应用UniForget，以及如何优化遗忘机制以实现更高效的遗忘效果。

---

消息来源：Hugging Face Daily Papers (2026-11-03)

—— 完 ——

主题标签： #Hugging Face 关注 #多模态模型 关注 #概念遗忘 关注 #UniForget 关注 #UMMs 关注