Hugging Face发布DoubtLess：训练无关的对比解码方法提升推理效率

摘要：Hugging Face推出了一种名为DoubtLess的新型训练无关解码方法，旨在优化推理效率。DoubtLess通过一个更小的推理模型来引导大模型生成更简洁的推理链，从而在不损失准确性的前提下，将Qwen3-32B的推理链长度缩短31%。该方法在多个基准测试中表现优异，包括竞争数学、高等科学和编程竞赛等任务。此外，DoubtLess还能够减少智能体在自调试编码任务中的思考token数量，同时保持任务性能不变。

---

技术机制剖析

DoubtLess的核心机制是通过一个更小的推理模型来引导大模型生成更简洁的推理链。具体来说，小模型会读取大模型当前的推理链两次：一次以简洁为目标（简洁思考者），另一次以冗长为目标（冗长思考者）。然后，小模型的两个logit向量之间的差异，经过强度缩放后，被添加到大模型的logits中，从而引导大模型生成更简洁的输出。

工程权衡与实测表现

DoubtLess在多个基准测试中表现出色，包括竞争数学、高等科学和编程竞赛等任务。与现有的五种推理时基线方法相比，DoubtLess在不损失准确性的前提下，将Qwen3-32B的推理链长度缩短了31%。此外，在自调试编码智能体中，DoubtLess将每轮的思考token数量减少了20%，同时保持了任务性能不变。

DoubtLess还具有很好的泛化能力，能够适用于其他模型家族，并且可以与基于训练的压缩方法结合使用，进一步缩短推理链长度。消融实验和行为分析表明，DoubtLess通过减少重复检查来节省token，大多数token节省发生在正确答案首次出现在推理链之后。

开发者落地与部署建议

对于开发者来说，DoubtLess提供了一种无需额外训练即可优化推理效率的方法。这对于资源受限的环境（如边缘设备）或对推理速度有严格要求的应用场景（如实时系统）尤其有价值。

此外，DoubtLess的代码已在GitHub上开源，开发者可以轻松集成到现有的推理流水线中。建议在部署时根据具体任务需求调整小模型的prompt和强度参数，以获得最佳的性能提升。

结论

DoubtLess是一种创新的训练无关解码方法，通过优化推理链的简洁性，显著提升了推理效率，同时保持了准确性。其在多个基准测试中的优异表现和良好的泛化能力，使其成为提升大模型推理效率的有力工具。

---

消息来源：Hugging Face Daily Papers (2026-10-13)

—— 完 ——

主题标签： #Hugging Face 关注 #DoubtLess 关注 #推理优化 关注 #训练无关 关注 #对比解码 关注