Hugging Face发布MARS：无需多模态数据即可实现跨模态安全对齐

摘要：Hugging Face推出了一种名为Modality-Agnostic Refusal Steering (MARS)的新方法，通过利用从大语言模型(LLM)主干中提取的文本拒绝指令，实现跨模态（图像、视频）的安全对齐。该方法无需多模态安全数据，通过激活中心化、几何信任区域内的自适应强度缩放以及最优干预层选择，显著提升了多模态大语言模型(MLLM)的安全性，同时保持了模型的实用性。实验表明，MARS在五个SOTA MLLM上均实现了安全性的持续提升，为多模态AI系统的安全对齐提供了创新解决方案。

---

技术机制剖析

MARS的核心机制包括以下三个关键步骤：

1. 激活中心化（Activation Centering）：通过将多模态输入的激活值进行中心化处理，校正模态间的对齐偏差，确保不同模态的表示在语义上的一致性。

2. 几何信任区域内的自适应强度缩放（Adaptive Steering Strength Scaling within Geometric Trust Region）：MARS在几何定义的信任区域内自适应调整拒绝指令的强度，避免过度拒绝或拒绝不足的问题，从而在安全性和实用性之间取得平衡。

3. 最优干预层选择（Optimal Intervention Layer Selection）：MARS在生成过程中动态选择最优的干预层，以最大化拒绝指令对不安全内容的抑制效果，同时减少对安全内容的误伤。

工程权衡与实测表现

• 优势：MARS无需多模态安全数据，降低了对昂贵且伦理敏感的数据收集过程的依赖。同时，该方法在多个基准测试中表现出色，显著提升了模型的安全性。

• 权衡：尽管MARS在提升安全性方面表现优异，但在处理复杂的多模态场景时，可能会出现对安全内容的误判。此外，该方法对模型架构的依赖性较高，需要针对不同模型进行微调。

• 实测表现：在五个SOTA MLLM上的实验表明，MARS在安全性方面实现了持续提升，同时保持了模型的实用性。例如，在视频越狱测试中，MARS将模型的拒绝率提高了15%-25%，而对正常输入的误拒率控制在5%以下。

开发者落地与部署建议

• 适用场景：MARS适用于需要处理多模态输入并确保内容安全的应用场景，如智能客服、虚拟助手和内容审核等。

• 部署建议：开发者应在实际部署中结合具体应用场景，对MARS进行微调，以达到最佳的安全性和实用性平衡。此外，建议在部署过程中引入人工监督机制，以应对MARS可能出现的误判情况。

• 未来方向：未来研究可以进一步探索如何减少MARS对模型架构的依赖，并提升其在复杂多模态场景中的表现。同时，可以考虑将MARS与其他安全机制（如对抗训练和鲁棒性优化）结合，以构建更强大的多模态AI安全系统。

---

消息来源：Hugging Face Daily Papers (2026-10-16)

—— 完 ——

主题标签： #Hugging Face 关注 #多模态AI 关注 #安全对齐 关注 #MARS 关注