Baidu发布Unlimited OCR：突破长序列OCR性能瓶颈

摘要：Baidu推出Unlimited OCR模型，通过引入Reference Sliding Window Attention (R-SWA)机制，显著优化了长序列OCR任务的性能。传统OCR模型依赖LLM解码器，在处理长文本时面临KV缓存累积导致的内存消耗和速度下降问题。Unlimited OCR通过保持恒定的KV缓存，将计算成本降低，同时支持单次前向传递处理数十页文档。该模型不仅适用于OCR，还适用于ASR、翻译等任务，展示了通用性强的技术优势。

---

技术突破与核心机制

Baidu推出的Unlimited OCR模型旨在解决传统OCR技术在处理长序列文本时的性能瓶颈。现有OCR模型通常依赖大型语言模型（LLM）作为解码器，这使得模型能够利用语言的先验分布提升识别准确率。然而，随着输出序列的增长，累积的KV缓存（Key-Value Cache）会导致内存消耗急剧增加，生成速度逐渐变慢。这种现象在处理长文档时尤为明显，例如数十页的文本内容。

Unlimited OCR通过以下技术突破解决了上述问题：

1. Reference Sliding Window Attention (R-SWA): 该机制取代了传统注意力层，通过滑动窗口的方式动态计算注意力权重，从而保持KV缓存的恒定大小。这不仅降低了计算成本，还确保了长序列处理的效率。

2. 高压缩率的编码器: Unlimited OCR的编码器继承了DeepSeek OCR的高压缩率设计，进一步优化了内存使用效率。

3. 通用性设计: R-SWA不仅适用于OCR任务，还适用于自动语音识别（ASR）、机器翻译等需要长序列处理的任务，展示了其通用性强的技术优势。

工程权衡与实测表现

• 内存与速度的平衡: 通过保持恒定的KV缓存，Unlimited OCR在处理长序列时避免了内存消耗的指数级增长，同时保持了较高的生成速度。
• 计算成本: R-SWA机制显著降低了注意力计算的成本，使得模型在长序列任务中更具实用性。
• 多任务适用性: 该模型不仅在OCR任务中表现出色，在ASR和翻译等任务中也展示了强大的性能，证明了其设计的通用性。

开发者落地与部署建议

1. 模型部署: 开发者可以利用Baidu提供的开源代码和模型权重，快速部署Unlimited OCR模型。
2. 任务适配: 对于需要处理长序列的任务，建议优先考虑使用R-SWA机制，以提升效率和降低资源消耗。
3. 多任务扩展: 开发者可以尝试将R-SWA机制应用于其他需要长序列处理的任务，如视频字幕生成、音频分析等。

总结

Unlimited OCR的发布标志着OCR技术在长序列处理领域的重大突破。其创新的R-SWA机制不仅提升了模型性能，还展示了在多任务场景中的通用性，为开发者提供了更高效、更可靠的解决方案。

---

消息来源：Hugging Face Trending Papers (2026-06-22)

—— 完 ——

主题标签： #Baidu 关注 #OCR 关注 #R-SWA 关注 #长序列处理 关注 #开源模型 关注