ReTerm:基于自改进的终端智能体恢复训练框架发布
摘要:ReTerm是一种新型终端智能体,通过学习从自身失败任务中恢复来提升鲁棒性。其核心机制包括构建ReTerm-10K数据集以支持监督微调(SFT)冷启动,以及提出ReTerm-GRPO在线强化学习算法,通过智能体自主生成恢复尝试并从成功经验中学习。实验表明,ReTerm-9B在Terminal-Bench 2.0上的Pass@1指标达到34.8%,相较基线模型提升14.6个百分点,展示了其在多样化错误类别中更高的恢复率。
技术机制剖析
ReTerm的核心突破在于其创新的训练机制,该机制使智能体能够从自身失败中学习并改进性能。具体来说,ReTerm通过以下技术组件实现这一目标:
-
ReTerm-10K 数据集构建:为了支持智能体的监督微调(SFT)冷启动,研究团队构建了一个高质量的数据集ReTerm-10K。该数据集包含大量终端任务的失败案例和对应的恢复方案,为智能体提供了有效的学习材料。
-
ReTerm-GRPO 算法:ReTerm-GRPO是一种在线强化学习(RL)算法,它通过智能体自身失败状态生成多个独立的恢复尝试,并从这些尝试的成功与否中学习。这种方法使智能体能够不断改进其恢复策略,从而提升整体鲁棒性。
-
Qwen3.5-9B 基座模型:ReTerm基于Qwen3.5-9B构建,利用其强大的语言理解能力来解析终端任务并生成恢复策略。
工程权衡与实测表现
ReTerm的设计在提升恢复能力的同时,也考虑到了训练效率和资源消耗的平衡:
-
训练效率:通过在线RL算法,ReTerm能够在训练过程中动态生成恢复尝试,避免了传统方法中需要大量预标注数据的局限。然而,这也带来了训练过程中计算资源的额外开销。
-
恢复率提升:在Terminal-Bench 2.0上的实验结果显示,ReTerm-9B的Pass@1指标达到34.8%,相较基线模型提升了14.6个百分点。这表明ReTerm在处理多样化错误类别时具有更高的恢复能力。
-
资源消耗:尽管ReTerm在训练过程中需要更多的计算资源,但其恢复能力的提升意味着在实际应用中可能减少因任务失败而导致的重复计算,从而在整体上实现资源节约。
开发者落地与部署建议
对于开发者而言,ReTerm的发布提供了以下几方面的启示:
-
数据驱动的智能体训练:ReTerm的成功表明,构建高质量的数据集对于智能体训练至关重要。开发者可以借鉴ReTerm-10K的构建方法,针对特定应用场景构建相应的数据集。
-
强化学习与自改进机制:ReTerm-GRPO算法展示了强化学习在智能体自改进中的潜力。开发者可以探索将类似机制应用于其他类型的智能体,以提升其适应性和鲁棒性。
-
基座模型的选择与微调:ReTerm基于Qwen3.5-9B构建,展示了基座模型选择的重要性。开发者应根据具体任务需求选择合适的基座模型,并进行针对性的微调,以实现最佳性能。
结论
ReTerm的发布标志着终端智能体在鲁棒性和自改进能力方面的重要进展。其创新的训练机制和显著的实验结果为智能体研究提供了新的方向,并为实际应用中的智能体部署提供了有力支持。
—— 完 ——消息来源:Hugging Face Daily Papers (2026-10-13)
主题标签: #ReTerm #终端智能体 #强化学习 #自改进 #Qwen
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区