LeapLabTHU发布OPDVR:结合RLVR与OPD优化大语言模型训练
摘要:清华大学LeapLab团队推出了一种名为OPDVR(On-policy Distillation with Verifiable Reward)的新方法,该方法创新性地结合了强化学习中的可验证奖励(RLVR)和策略蒸馏(OPD),旨在解决现有RLVR稀疏反馈和OPD忽略轨迹正确性的问题。OPDVR通过重新定义隐式奖励并引入ReLU门控机制,确保正确轨迹获得非负奖励,同时保留教师的分布指导。实验表明,OPDVR在六个推理基准测试中均优于标准OPD方法,为大语言模型的训练提供了更高效、更精准的解决方案。
创新方法:结合RLVR与OPD的优势
在大型语言模型(LLM)的训练过程中,强化学习(RL)和策略蒸馏(OPD)是两种常用的方法。RLVR通过任务级反馈提供正确性指导,但存在反馈稀疏的问题;OPD则提供密集的token级指导,但忽略了轨迹的正确性,限制了模型性能的提升。
LeapLabTHU团队提出的OPDVR方法通过以下创新点解决了上述问题:
- 重新定义隐式奖励:基于轨迹正确性重新定义OPD的隐式奖励。
- 引入ReLU门控机制:确保正确轨迹获得非负奖励,错误轨迹获得非正奖励,从而将蒸馏信号与任务成功对齐。
- 无缝结合RLVR与OPD:无需额外超参数即可实现RLVR与OPD的无缝结合。
实验结果:显著的性能提升
在六个推理基准测试中,OPDVR均表现出色,超越了标准OPD方法。实验结果表明,OPDVR不仅提升了模型的推理能力,还增强了其在复杂任务中的表现。
技术亮点
- 创新性结合RLVR与OPD:通过重新定义奖励机制和引入门控机制,实现了两者的无缝结合。
- 无需额外超参数:简化了模型训练过程,降低了调参难度。
- 开源代码:代码已在GitHub上公开,便于开发者复现和进一步研究。
行业影响与开发者建议
OPDVR的发布为LLM的训练提供了新的思路和方法,尤其在需要高精度和高效推理的应用场景中具有重要意义。开发者可以参考以下建议:
- 尝试OPDVR方法:在LLM训练中引入OPDVR,以提升模型性能。
- 关注开源社区:积极参与OPDVR的开源社区,分享使用经验和改进建议。
- 探索更多应用场景:将OPDVR应用于其他需要强化学习和策略蒸馏的领域,如机器人控制、自动驾驶等。
—— 完 ——消息来源:Hugging Face Daily Papers (2026-08-25)
主题标签: #LeapLabTHU #OPDVR #RLVR #策略蒸馏 #强化学习
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区