Hugging Face发布FocusVTC：自适应分辨率实现高效视觉文本压缩

摘要：Hugging Face推出了一款名为FocusVTC的新技术，旨在解决视觉文本压缩（VTC）中的压缩性能权衡问题。FocusVTC通过自适应分辨率技术，在保持多模态能力的同时，实现了高效的文本压缩。其核心机制包括低DPI全局视图与选择性区域增强相结合，并通过多分辨率监督微调（REL-SFT）和组相对策略优化（Group Relative Policy Optimization）提升模型性能。实验结果表明，FocusVTC在多个基准测试中均表现出色，显著提升了输入压缩率与推理速度，同时保持了多模态任务的准确性。

---

技术背景与挑战

在处理长上下文推理时，大语言模型（LLM）面临着巨大的计算和内存成本。视觉文本压缩（VTC）通过将文本渲染为图像来减少输入长度，但固定分辨率的渲染方式带来了压缩性能之间的权衡：低DPI虽然节省了标记数量，但影响了文本的可读性；高DPI则浪费标记在无关内容上。

FocusVTC的核心创新

FocusVTC通过自适应分辨率技术打破了这一权衡。其主要特点包括：

• 自适应分辨率：结合低DPI全局视图与选择性区域增强，在保持多模态能力的同时实现高效压缩。
• 高质量数据集构建：构建了29.4K高质量的推理-证据定位（REL-CoT）思维链示例，将推理轨迹与页面索引和边界框关联起来。
• 多分辨率监督微调（REL-SFT）：通过多分辨率监督学习，教会模型定位相关区域。
• 组相对策略优化：学习何时增强分辨率以及如何使用增强后的观察结果，无需单独的持续预训练阶段。

实验结果与性能

在RULER v1基准测试中，FocusVTC在72 DPI下实现了2.9倍的输入压缩率，得分为87.4，而Glyph在3.0倍压缩率下得分为57.5。在LongBench上，FocusVTC超越了其文本输入基线模型（56.40 vs 55.86），MRCR宏观平均值提高了13.91点，并在VTCBench上实现了51.19的宏观平均值。此外，MRCR延迟评估显示，FocusVTC比文本基线快2.79倍。多模态能力也得到了保留，MMMU从65.12提升到66.73，MME从2424.02提升到2457.62。

行业影响与开发者建议

FocusVTC的发布为AI在多模态任务中的应用提供了新的可能性，特别是在需要高效文本处理和推理的场景中，如智能文档处理、实时翻译和复杂场景理解等。开发者可以关注以下方面：

• 多模态模型优化：利用自适应分辨率技术优化多模态模型的输入处理流程。
• 高效推理策略：借鉴FocusVTC的策略优化方法，提升模型在资源受限环境下的推理效率。
• 数据集构建：参考REL-CoT数据集的构建方法，创建高质量的推理-证据数据集以提升模型性能。

---

消息来源：Hugging Face Daily Papers (2026-09-29)

—— 完 ——

主题标签： #Hugging Face 关注 #视觉文本压缩 关注 #多模态推理 关注 #自适应分辨率 关注 #高效推理 关注