智客 ZICQ
EN 登录 / 注册
智客前沿 开源AI #Nous Research #开源模型 #编程模型 #强化学习 #数据稀缺

Nous Research发布开源编程模型NousCoder-14B:4天训练媲美大型闭源系统

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间: · 4 次阅读

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:Nous Research发布开源编程模型NousCoder-14B,基于Qwen3-14B训练,在LiveCodeBench v6上达到67.87%的准确率,超越多个更大规模的闭源系统。该模型仅用48块NVIDIA B200 GPU训练4天,并完全开源训练环境、基准套件和Atropos框架,强调可复现性。其技术报告揭示了数据稀缺的挑战,并提出了合成数据生成与自博弈等未来方向。在Claude Code引发热潮的背景下,Nous Research以开源透明策略切入AI编程赛道,为开发者提供了可复现的替代方案。


开源编程新星:NousCoder-14B 发布

Nous Research 于本周一发布了全新的开源编程模型 NousCoder-14B,该模型在竞争性编程任务上表现出色,据称已匹配或超越多个更大的闭源系统。最令人瞩目的是,该模型仅使用 48 块 NVIDIA 最新的 B200 GPU 训练了四天,展现了极高的训练效率。

性能与基准测试

NousCoder-14B 在 LiveCodeBench v6 上取得了 67.87% 的准确率,该基准测试覆盖了 2024 年 8 月至 2025 年 5 月发布的竞争性编程问题。相比其基础模型阿里 Qwen3-14B,准确率提升了 7.08 个百分点。这一成绩使其在同类开源模型中脱颖而出,甚至可与部分更大规模的闭源模型一较高下。

训练方法与技术创新

该模型的训练采用了基于可验证奖励的强化学习技术:模型生成代码后,系统在沙盒环境中执行并针对测试用例进行验证,返回简单的正确/错误信号。训练过程使用了 DAPO(动态采样策略优化) 算法,并通过动态采样丢弃模型全对或全错的样本,以提供有效的梯度信号。此外,研究者采用了迭代上下文扩展,从 32K 令牌逐步扩展到 40K,并在评估时进一步扩展至约 80K 令牌,以获得最佳性能。

训练管线还实现了推理与验证的重叠,即模型生成一个解决方案后立即开始下一个问题,同时验证前一个结果,最大化 GPU 利用率。这种异步并行训练方式显著提升了硬件效率。

开源与可复现性

Nous Research 坚持激进的开源策略,不仅发布了模型权重,还公开了完整的强化学习环境、基准套件和训练框架(基于其 Atropos 框架)。任何拥有足够算力的研究者都可以复现或扩展这项工作,这为学术和开源社区提供了宝贵的资源。

数据稀缺的警示

技术报告中一个重要的发现是:训练数据集包含了“标准化格式下所有可获取的、可验证的竞争性编程问题的很大一部分”。这意味着在该领域,高质量训练数据已接近极限。研究者 Joe Li 指出,互联网上竞争性编程问题的总数与训练集规模(24,000 个)大致相当,这暗示着数据瓶颈的到来。他呼吁未来应重点研究合成数据生成和数据高效算法,并提出了训练模型生成可解决问题、实现自博弈的设想。

行业背景与影响

NousCoder-14B 的发布恰逢 Anthropic 的 Claude Code 在开发者社区引发热议之际。Claude Code 展示了端到端软件开发的强大能力,而 Nous Research 则押注于开源替代方案,强调透明性和可复现性。该公司已获得 Paradigm 等机构 6500 万美元融资,致力于在开源 AI 领域与大型科技公司竞争。

未来方向与开发者建议

技术报告指出了几个未来研究方向:多轮强化学习(利用中间反馈)、响应长度控制(解决错误答案过长的问题),以及问题生成与自博弈(让模型自行创造训练数据)。对于开发者而言,NousCoder-14B 已在 Hugging Face 上以 Apache 2.0 许可证发布,并提供了完整的 Atropos 训练栈,便于进一步研究和应用。

结语

NousCoder-14B 的发布不仅提供了一个高性能的开源编程模型,更展示了高效训练和开源透明的价值。在 AI 编程工具竞争白热化的当下,它代表了开源社区的重要力量。

—— 完 ——

主题标签: #Nous Research #开源模型 #编程模型 #强化学习 #数据稀缺

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…