Vision-RL2：基于区域级强化学习的细粒度多模态大语言模型感知优化方案发布

摘要：Yu Hengsss团队发布了一种名为Vision-RL2的新方法，通过区域级强化学习优化多模态大语言模型（MLLM）的细粒度视觉感知能力。该方法通过区分定位和识别任务的不同分辨率需求，提出从粗略视角进行定位并集中分辨率于选定证据，从而减少视觉token数量并提升效率。Vision-RL2利用轻量级提案网络和冻结的MLLM评分器，通过减法和加法目标优化提案质量，实现稀疏编码以放大证据并排除背景token。实验表明，Vision-RL2在多个细粒度基准测试中显著提升了模型性能，同时减少了约75%的视觉token使用量。

---

核心突破

• 区域级强化学习优化：Vision-RL2通过将区域视为动作，利用冻结的MLLM评分器评估每个区域对答案的影响，从而优化提案网络。这种方法无需区域标注、采样或推理轨迹，仅需更新预测器即可实现高效优化。
• 分辨率需求差异化处理：定位任务对token压缩的容忍度比识别任务高出3到4倍，因此Vision-RL2从粗略视角进行定位，并集中分辨率于选定证据，减少了视觉token数量。
• 稀疏编码与证据放大：通过减法和加法目标，Vision-RL2抑制干扰提案并恢复缺失证据，实现稀疏编码以放大证据并排除背景token。

技术亮点

1. 高效性：Vision-RL2在多个细粒度基准测试中表现出色，在保持甚至超越最大预算准确性的同时，将视觉token使用量减少了约75%。
2. 轻量级提案网络：提案网络从模型的注意力中蒸馏而来，速度快但继承了注意力目标的噪声。通过区域级强化学习优化，提案网络能够有效抑制噪声并提升提案质量。
3. 适应性：该方法适用于多种MLLM架构和细粒度感知任务，具有广泛的适用性。

行业影响

Vision-RL2的发布为多模态大语言模型在细粒度视觉感知领域的应用提供了新的优化思路。通过减少视觉token数量并提升效率，Vision-RL2有望降低计算成本并提高模型性能，推动多模态AI技术在实际应用中的落地。此外，该方法也为AI系统优化提供了新的研究方向，特别是在资源受限的环境中具有重要意义。

开发者建议

• 尝试应用：开发者可以尝试将Vision-RL2应用于现有的多模态大语言模型中，以提升细粒度视觉感知任务的性能。
• 关注后续研究：建议关注Yu Hengsss团队的后续研究，以获取更多关于Vision-RL2的优化和应用案例。
• 资源利用：利用Vision-RL2的开源代码（https://github.com/YuHengsss/VisionRL2），开发者可以快速集成该方法并进行实验。

---

消息来源：Hugging Face Daily Papers (2026-09-17)

—— 完 ——

主题标签： #多模态大语言模型 #强化学习 #细粒度感知 #Vision-RL2 #AI优化