智客 ZICQ
EN 登录 / 注册
智客前沿 大模型 #大语言模型 #训练数据优化 #智能体 #SFT #AI研究

SWE-Prime:基于多粒度筛选的智能体训练数据优化方法发布

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间: · 21 次阅读

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:SWE-Prime是一种新型的智能体训练数据优化方法,旨在通过多粒度筛选提升大语言模型解决实际软件问题的能力。该方法采用两阶段筛选策略,首先在轨迹级别筛选高质量且具有代表性的成功轨迹,然后在片段级别评估每个语义片段的贡献度、可学习性和潜在风险,从而优化训练数据质量。实验结果表明,使用SWE-Prime筛选的10%轨迹子集进行训练,性能相对提升最高可达12.2%和24.2%,展示了其在减少噪声监督和提升模型表现方面的显著优势。


背景与动机

在提升大语言模型解决实际软件问题的能力方面,传统的监督微调(SFT)方法依赖于成功轨迹的数据集。然而,任务的成功并不等同于高质量的监督:成功的轨迹中可能包含无效、冗余或风险步骤,直接使用这些轨迹进行训练会引入噪声监督,并鼓励模型模仿不良的问题解决行为。

SWE-Prime方法

SWE-Prime提出了一种多粒度、两阶段的SFT数据筛选方法:

  1. 轨迹级别筛选:基于过程质量、结果质量和数据代表性,筛选出高质量且具有代表性的成功轨迹子集。
  2. 片段级别筛选:将连续步骤分组为语义片段,并基于对最终解决方案的贡献度、可学习性和潜在风险评估每个片段。在训练过程中,所有片段保留在序列中,但只有选定的片段参与损失计算。

实验结果

在SWE-Bench Pro和SWE-Bench Verified上的实验表明,使用SWE-Prime筛选的10%轨迹子集进行训练,性能相对提升最高可达12.2%和24.2%。这表明,通过减少噪声监督,模型在复杂任务中的表现得到了显著提升。

技术亮点

  • 多粒度筛选策略:结合轨迹和片段级别的筛选,提供了更精细的优化手段。
  • 上下文保留:在训练过程中保留所有片段的上下文,仅优化损失计算部分,避免了信息丢失。
  • 性能提升显著:在多个基准测试中均表现出色,验证了方法的有效性。

行业影响与开发者建议

SWE-Prime为AI智能体在复杂任务中的训练提供了新的思路,尤其适用于对模型表现和可靠性要求较高的应用场景。开发者可以借鉴其多粒度筛选策略,优化自身模型的训练数据,从而提升整体性能。此外,该方法还可以与其他训练技术结合,进一步增强模型的鲁棒性和适应性。


消息来源:ArXiv cs.AI (2026-08-27)

—— 完 ——

主题标签: #大语言模型 #训练数据优化 #智能体 #SFT #AI研究

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…