EditVeto门控LLM OCR改写，冻结小模型减少历史文本误改

摘要：EditVeto提出一种置于全文LLM改写之后的否决门：先将重写结果与OCR输入逐字符对齐，再按差异块交给0.6B参数门控模型，逐块决定保留或回退。训练使用两个Qwen3模型的改写样本，在HIPE-OCRepair-2026八组测试中，五种重写器的加权cMER下降0.0026—0.0044，偏好分数提升0.15—0.25，且在未见过的重写器上仍有效。不过，该方法会降低既有竞赛冠军的cMER，集成结果还显示主要收益来自LoRA微调与结果池化，而非门控本身。它更适合历史文献修复等强调少误改、需可控回退的流水线。

---

核心思路：先让LLM全量改写，再逐块决定是否接受

EditVeto针对的是历史文献OCR修复中的典型矛盾：LLM可以纠正噪声、错字和识别遗漏，却也可能把原本正确的文字“越修越错”。论文没有要求模型只在疑似错误片段上生成，而是保留完整的上下文重写能力，再在输出端增加一个可撤销层。

其流程分为三步：

1. 将LLM重写结果与原始OCR文本进行逐字符对齐；
2. 把两者之间的差异切分为连续编辑块；
3. 由一个0.6B参数的门控模型判断每个编辑块应保留还是回退。

最终文本不是重新生成，而是从完整重写结果中组合被门控接受的编辑。这一设计将“是否纠错”从生成模型内部不可见的概率决策，转化为输出侧可审计的二元决策。

为什么不是直接按片段生成

论文的oracle分析给出了该设计的经验动机：当真实错误位置已知时，单独对每个span进行生成，效果反而不如不纠正；相比之下，保留全文上下文进行重写，再否决其中不合适的编辑，表现更好。

这说明逐span修复存在上下文断裂问题。OCR文本中的字符错误、版面断裂、缩写和古旧拼写往往需要依赖整篇文档才能判断。如果每个片段独立生成，模型可能为了修复局部而引入新的上下文不一致。全文重写能利用跨位置信息，随后门控则负责压制无依据改写。

不过，oracle结果依赖“真实错误位置已知”这一理想条件，不能直接等同于实际部署性能。真实场景没有逐字符真值标签，门控本身也会带来误拒绝和误接受。

门控模型如何工作

EditVeto没有再训练一个大型OCR修复模型，而是使用0.6B参数模型承担编辑裁决。训练数据来自两个Qwen3模型生成的改写结果，评估时冻结该门控器，并测试五种重写器，其中两个未出现在训练阶段。

这种训练与部署分离有两点工程价值：

• 门控器可以作为独立组件接入已有OCR修复流水线；
• 它在不同重写器之间具有一定迁移能力，而不是绑定某个生成器的固定输出格式。

代价是门控决策仍可能受字符对齐误差、差异块切分方式和文本风格漂移影响。若长文档在分段、对齐或编码规范化过程中产生系统性偏移，错误可能集中落在少数高密度编辑块上；因此上线前需要针对真实文档分布重测阈值和回退策略。

评测表现：平均有效，但不是全面提升

在HIPE-OCRepair-2026的八个测试集上，五种被测重写器全部获得改善，其中两种是训练阶段未见过的模型：

• 加权cMER下降0.0026—0.0044；
• 偏好分数提升0.15—0.25；
• 配对bootstrap检验约为p ~ 0.0002。

这些结果支持“冻结门控器可以跨重写器复用”的论点，尤其是未见重写器上的改善，降低了门控只是记住某一生成器编辑模式的可能。

但竞赛输出上的结果揭示了关键边界：门控让四支队伍中的三支cMER下降，却使冠军从0.0050升至0.0065。换言之，EditVeto并非免费叠加的“精修层”；当上游重写器本身已经接近正确文本时，继续学习到的编辑偏好可能反而增加修改噪声。

集成结果中的归因问题

第二次披露测试中，重新训练的gate仍能改善LoRA微调重写器，使cMER下降0.0011—0.0021。集成多个门控编辑后的结果达到cMER 0.0069、偏好分数0.928，仅使用公开模型和数据的系统则落后于冠军的0.0050，并与第二名的0.0071接近。

不过，论文明确指出，集成优势主要来自微调和结果池化，而不是门控本身。这意味着不能把0.0069的最终成绩直接归功于EditVeto。更严格的验证应分别报告：

• 原始重写器；
• LoRA微调重写器；
• 仅池化；
• 池化加门控；
• 各组件在不同重写器上的交互效应。

此外，第三个次要测试中，未修改的gate让零样本Qwen3.8-27B的cMER从0.0114降至0.0108，但只改善其LoRA版本的偏好分数。该结果说明迁移收益较小，不能据此外推到所有更大模型或不同文档类型。

工程权衡与适用场景

EditVeto新增的主要成本是改写后的对齐、差异切分和0.6B门控推理。相对重新执行一次大型LLM修复，这一成本通常更容易控制，并可按块并行。但完整流程仍需要保存原文、重写结果、对齐关系和逐块决策记录，才能实现可追溯回退。

它更适合以下场景：

• 数字档案馆、图书馆和历史文献数据库的批量后处理；
• 对“过度修改”代价高于轻微漏纠的审校任务；
• 已拥有多个LLM重写器、需要统一输出审核策略的系统；
• 需要保留每个编辑接受或拒绝记录的人工复核流程。

对于高分辨率文档、表格、复杂版面和多栏文本，字符对齐可能不够稳定。工程实现应保留块级置信度，并把极低置信度编辑送入人工队列，而不是强制二元保留或回退。

开发者落地建议

部署时不要直接把EditVeto作为所有OCR任务的默认后处理。建议先建立包含以下维度的验证集：原图噪声类型、文档语言和年代、版面复杂度、OCR引擎差异、上游重写器版本，以及“无需修改”的正确文本比例。

推荐上线流程为：

1. 对齐重写前后文本；
2. 合并或切分编辑块，并剔除纯空白、格式标记等非语义差异；
3. 用门控器输出逐块决策和置信度；
4. 对高影响块保留原文，对低置信度块触发复核；
5. 分别统计cMER、偏好分数及“正确文本被改坏”的比例。

验收指标不应只看总体cMER。对于档案修复，更有意义的指标是错误恢复率与误改率构成的二维曲线，以及不同模型规模、文档域和OCR噪声强度下的最差组表现。

结论

EditVeto的价值在于把LLM的OCR改写从不可控的全量替换，转化为可审计的逐块接受与回退机制。它在多个重写器上稳定降低cMER，也证明了一个0.6B门控器可以跨模型迁移。

但它不是通用性能增强器：冠军被门控后反而退化，集成系统的领先也主要来自LoRA微调与池化。真正可复用的结论是“全文重写加输出端裁决”比孤立片段生成更有潜力；是否采用EditVeto，则应取决于具体数据上误改成本与漏纠成本的实际比例。

---

消息来源：ArXiv NLP/LLM (cs.CL) (2026-11-05)

—— 完 ——

主题标签： #OCR修复 关注 #EditVeto 关注 #Qwen3 关注 #LLM门控 关注 #文档智能 关注