RepoFactory进化训练环境,长程编码智能体NL2Repo提升22.6分
摘要:RepoFactory把真实代码仓库自动转换为可验证的长程编码环境,并通过环境进化循环,以有效性、结构耦合与实现范围的乘性代理目标持续筛选训练任务。基于10,159个环境训练后,Qwen3.5-35B-A3B衍生出的RepoHorizon-35B-A3B在NL2Repo-Bench上报告22.6个百分点增益,五项长程编码与智能体基准平均增益8.5分;去掉环境进化后分别降至17.5与6.4分。论文把环境合成本身变成可迭代的反馈信号,但摘要尚未披露绝对成绩、训练成本、方差、代码与模型开放状态。
核心结论
RepoFactory的技术重点不是提出新的推理架构,而是重塑编码智能体的训练供给链:它把真实代码仓库转换成可验证环境,让智能体依据规格说明从零构建完整项目,再由Environment Evolution Loop利用代理反馈持续优化训练环境本身。
论文共生成10,159个环境,覆盖17个软件领域。基于这些环境训练Qwen3.5-35B-A3B后得到RepoHorizon-35B-A3B;摘要报告其在NL2Repo-Bench上取得22.6个百分点增益,在五项长程编码与智能体基准上平均提高8.5分。
技术机制
从仓库到可验证环境
从论文摘要能够确认的是功能链路,而不是具体解析器、测试框架或仓库抽取算法。RepoFactory至少需要完成三个转换步骤:
- 仓库到规格:将真实仓库中可观察的功能、接口和依赖关系压缩成任务规格,避免直接把原仓库答案暴露给模型。
- 规格到工程环境:为智能体提供从零实现完整项目所需的目录、依赖和执行入口,而不是只生成单个函数或代码片段。
- 产物到代理反馈:环境必须返回可重复判定的结果,供系统比较不同实现的有效性、组件耦合程度与实现范围。摘要没有披露验证器究竟采用编译、单元测试、集成测试还是行为测试,这一信息直接决定后续结果能否被复现。
乘性环境目标
按摘要可将环境评分抽象为:
J(E) = V(E) × C(E) × S(E)
其中,V代表有效性,C代表结构耦合度,S代表实现范围。三项指标的具体归一化方式和权重尚未公开。乘性设计具有明显的门控性质:任何一项接近零,整体价值都会塌缩,从而抑制只通过编译、只生成空壳目录或彼此割裂的伪完整任务。
代价是优化信号更稀疏,也更敏感。代理指标尺度不一致时,某一维可能长期支配排序;环境生成器还可能找到只满足表面结构、却没有真实功能耦合的捷径。因此,环境分数必须配套隐藏测试、行为测试和分布外样本,而不能只依赖可被智能体反向利用的公开检查器。
用代理反馈缩短递归自我改进周期
传统递归自我改进通常形成模型Rollout → 模型训练 → 下游评测 → 再次Rollout的串行循环。对于需要跨文件修改、持续调用工具并反复修复的长程任务,一次下游评测成本高、反馈周期长。RepoFactory把环境筛选前移,以较快的代理信号决定哪些环境更值得进入训练,从源头提高每个训练样本的信息密度。
这并不消除最终评测成本,只是把昂贵的模型训练从无差别环境生成中解耦。代理指标与真实任务分布之间若有偏差,模型仍会系统性偏向容易通过验证器的任务。
工程权衡
验证器决定训练上限
环境数量达到10,159并不自动意味着训练价值同样高。若验证器只检查文件存在、接口签名或公开测试,智能体可能生成可编译但行为错误的工程;若验证过严,又会排除尚未完成但具备合理中间状态的项目。更可靠的设计应分层验证:先做格式和编译检查,再做模块级测试,最后用隐藏行为测试检查端到端结果,并记录每个环境的失败类型。
乘性目标的稀疏性与排序稳定性
乘性目标可以阻止单项高分掩盖严重缺陷,但也可能造成大量候选环境得分接近零,使进化循环只在极少数样本上产生排序差异。实际运行还应记录V、C、S的联合分布、每轮候选数量、分数方差及淘汰比例。若少数极端样本主导选择,应检查归一化、截断和并列处理是否引入偏差。
数据规模与算力成本尚未闭合
摘要没有披露生成10,159个环境所需的仓库解析、容器构建和验证时间,也没有给出训练消耗的Token、Rollout次数、GPU型号、并行策略或总成本。编码智能体训练通常同时受模型计算、沙箱启动、测试执行和工具调用延迟影响,GPU空闲等待验证器也可能成为实际瓶颈。
长轨迹带来的推理开销
长程任务会累积代码、工具输出和错误反馈。在标准Transformer解码器中,单序列KV Cache占用可近似为:
2 × L_layers × L_seq × H_kv × d_head × bytes_per_element
批量推理时再乘以并发序列数。若架构采用GQA或MQA,H_kv会低于查询头数量,从而控制缓存增长。摘要没有披露RepoHorizon的完整配置;名称中的35B-A3B按业界惯例通常暗示总参数约35B、每Token激活约3B的MoE结构,但仍应以模型配置表为准。若其确为MoE,全部专家权重仍需驻留或分布部署,推理吞吐还受专家路由和跨卡通信影响,不能把A3B直接理解为完整模型只需3B权重内存。
实测表现
摘要给出的结果如下:
| 训练条件 | NL2Repo-Bench报告增益 | 五项基准平均报告增益 | |---|---:|---:| | 使用RepoFactory环境及环境进化循环 | 22.6个百分点 | 8.5分 | | 不使用环境进化循环 | 17.5个百分点 | 6.4分 | | 按摘要数值计算的循环增量 | 5.1个百分点 | 2.1分 |
这组数字说明,大规模可验证环境本身已经贡献了主要收益,环境进化循环又带来额外提升。不过,摘要没有完整说明两组实验是否保持环境数量、Rollout Token、训练步数与推理预算一致,因此不能把5.1和2.1分直接解释为严格因果贡献。
评测同样存在关键缺口:论文只报告相对增益,没有给出绝对分数、基线模型成绩、随机种子、方差和显著性;也没有说明五项基准的构成、真实生产代码的来源及难度分布。尤其当训练环境和NL2Repo-Bench都来自代码仓库时,仓库谱系去重、提交时间切分和许可证检查将直接影响结论可信度。
复现与落地建议
- 对齐训练预算:比较随机环境、固定质量筛选和环境进化时,应固定基础检查点、环境数量、Rollout Token、训练步数及验证预算。
- 保留隐藏验证器:公开检查器只用于反馈,评测应使用隔离的隐藏测试,防止智能体针对验证规则优化。
- 执行仓库级去重:按仓库URL、Git历史、代码片段和许可证族建立关联,而不只按文件名或任务文本去重。
- 记录乘性分数分布:逐轮监控三个分量、零分比例和排序稳定性,识别代理目标是否坍缩到单一维度。
- 分开验证能力与安全性:模型生成代码必须在无默认凭证、限制网络、限制CPU与内存的沙箱中执行,并设置超时和产物回收策略。
- 核查开放状态:摘要没有说明代码、环境数据、训练脚本和RepoHorizon权重是否开放。缺少这些工件时,该方法更适合作为训练环境工程的研究方向,而非可直接接入现有RL流水线的组件。
尚待验证的问题
论文摘要没有披露作者所属机构、绝对基准成绩、训练成本、硬件配置、方差、数据污染控制、完整消融及许可证状态。RepoHorizon是否开放权重、RepoFactory环境是否可下载、环境生成是否包含第三方专有代码,也仍待确认。
因此,这项工作的主要价值是证明了一个可行方向:编码智能体的训练瓶颈不只在模型规模和强化学习算法,也在于能否持续生产具有真实结构、可验证行为且难度分布合理的长程环境。多环境进化循环是否能稳定扩展到更大规模,以及代理目标会不会诱导验证器投机,仍需通过代码、权重和独立复现实验回答。
—— 完 ——消息来源:Hugging Face Daily Papers (2026-11-17)
主题标签: #RepoFactory #RepoHorizon #编码智能体 #环境合成 #长程任务训练
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区